Az AI korszakának kiberbiztonsági dilemmái: új típusú evolúciós fenyegetések
Mesterséges intelligencia a kiberbűnözők kezében: deepfake, automatizált támadások. Hogyan változtatja meg a. ✅ PCCloud – 24 hónap garancia, ingyenes szállítás.
Az EDR egy kiberbiztonsági technika, amelynek célja a nemkívánatos programok azonosítása. A szakértők azonban úgy vélik, hogy ez a hagyományos megközelítés nem elégséges a ChatGPT által kiváltott lehetséges fenyegetések kezelésére. A mutálódó kódokat - melyeket polimorf jelzővel is illetünk - nehezebb észrevenni.
A nyelvi modellek, mint a ChatGPT, beépített szűrőkkel vannak ellátva, amelyek megakadályozzák az indokolatlan tartalmak előállítását. Ez a tartalomskála a specifikus témáktól a kártékony kódokig terjed. Mégis, a felhasználóknak nem kellett sok idő, hogy megtalálják az utat ezeknek a szűrőknek a megkerüléséhez. Ez a taktika a ChatGPT-t különösen sebezhetővé teszi azok számára, akik kártékony scripteket kívánnak létrehozni.
Jeff Sims, a HYAS InfoSec biztonsági mérnök, aki egy IT-biztonsággal foglalkozó cég munkatársa, bemutatta a BlackMamba névre hallgató, bizonyítékokon alapuló projektjét. Ez a polimorfikus keylogger minden futtatáskor API hívásokat indít a ChatGPT felé. "Az újító technikák lehetővé teszik a lehetséges támadóknak, hogy szokatlanul összekeverjék a könnyen felismerhető viselkedési mintákat, és kihasználják a modell hiányosságait, hogy ezt káros mintaként azonosítsa" - tette hozzá Sims.
A CyberArk, egy kiberbiztonsági cég, nemrégiben ismertette a ChatGPT képességét, hogy polimorfikus nemkívánatos programokat hozzon létre, Eran Shimony és Omer Tsarfati blogbejegyzésében. A cikk részletesen bemutatja, hogy a ChatGPT által injektált kód hogyan képes módosítani a scripteket aktiválásuk után, így megkerülve a legújabb detekciós technológiákat, amelyeket a nemkívánatos viselkedés felismerésére használnak.
Jelenleg ezek az esetek csak néhány példát szolgáltatnak, de remélhetőleg ez a felismerés további fejlesztéseket inspirál majd, amelyek megelőzik az evolúciós kódok valós környezetben okozott kárait.
Kapcsolódó cikkek
- A kiberháború új arcát feltárva: Az operáció Texonto története
- Google új riasztási funkciója segít a Bluetooth követők felismerésében
- Adatvédelem a technológiai óriásoknál: Kihívások és stratégiák
- Kémprogrammal fertőzött Android alkalmazások
Gyakran ismételt kérdések
Milyen új kiberfenyegetéseket hoz az AI korszak?
Az AI lehetővé teszi a célzottabb adathalász támadásokat, deepfake alapú csalásokat, automatizált sebezhetőség-feltárást és szofisztikáltabb malware-eket.
Hogyan védekezhetünk az AI-alapú kibertámadások ellen?
Erős jelszavak, kétfaktoros hitelesítés, rendszeres szoftverfrissítés, és egészséges szkepticizmus online tartalmakkal szemben. Az AI-t a védelem oldalán is használják.
Biztonságos használt laptopot venni biztonsági szempontból?
Igen, ha megbízható forrásból szerzed be. A PCCloud.hu tanúsított adattörlést és friss rendszertelepítést végez minden felújított gépen.
