Az AI korszakának kiberbiztonsági dilemmái: új típusú evolúciós fenyegetések
Az EDR egy kiberbiztonsági technika, amelynek célja a nemkívánatos programok azonosítása. A szakértők azonban úgy vélik, hogy ez a hagyományos megközelítés nem elégséges a ChatGPT által kiváltott lehetséges fenyegetések kezelésére. A mutálódó kódokat - melyeket polimorf jelzővel is illetünk - nehezebb észrevenni.
A nyelvi modellek, mint a ChatGPT, beépített szűrőkkel vannak ellátva, amelyek megakadályozzák az indokolatlan tartalmak előállítását. Ez a tartalomskála a specifikus témáktól a kártékony kódokig terjed. Mégis, a felhasználóknak nem kellett sok idő, hogy megtalálják az utat ezeknek a szűrőknek a megkerüléséhez. Ez a taktika a ChatGPT-t különösen sebezhetővé teszi azok számára, akik kártékony scripteket kívánnak létrehozni.
Jeff Sims, a HYAS InfoSec biztonsági mérnök, aki egy IT-biztonsággal foglalkozó cég munkatársa, bemutatta a BlackMamba névre hallgató, bizonyítékokon alapuló projektjét. Ez a polimorfikus keylogger minden futtatáskor API hívásokat indít a ChatGPT felé. "Az újító technikák lehetővé teszik a lehetséges támadóknak, hogy szokatlanul összekeverjék a könnyen felismerhető viselkedési mintákat, és kihasználják a modell hiányosságait, hogy ezt káros mintaként azonosítsa" - tette hozzá Sims.
A CyberArk, egy kiberbiztonsági cég, nemrégiben ismertette a ChatGPT képességét, hogy polimorfikus nemkívánatos programokat hozzon létre, Eran Shimony és Omer Tsarfati blogbejegyzésében. A cikk részletesen bemutatja, hogy a ChatGPT által injektált kód hogyan képes módosítani a scripteket aktiválásuk után, így megkerülve a legújabb detekciós technológiákat, amelyeket a nemkívánatos viselkedés felismerésére használnak.
Jelenleg ezek az esetek csak néhány példát szolgáltatnak, de remélhetőleg ez a felismerés további fejlesztéseket inspirál majd, amelyek megelőzik az evolúciós kódok valós környezetben okozott kárait.
Kapcsolódó cikkek
