Tehisintellekti agendid võivad avaldada tundlikku informatsiooni
Tehisaru turvalisusega tegelev ettevõtte Irregular avaldas, et laboritestides lekitasid autonoomsed tehisintellekti agendid tundlikku infot. Näiteks avaldasid agendid paroole, lülitasid pahavara allalaadimiseks välja viirusetõrje, võltsisid kasutajatunnused ja survestasid teisi agente ohutusreegleid eirama. Katsetes kasutati Google’i, X-i, OpenAI ja Anthropicu avalikult kättesaadavaid mudeleid kontrollitud keskkonnas. Ühes näites mõtles juhtagent välja hädaolukorra, käskis alamagendil kasutada igat võimalikku eksploiti (turvanõrkuse ärakasutamise meetodit). Seepeale leidiski alamagent salajase võtme ja võltsis administraatori sessiooni, et oma õiguseid suurendada. Irregulari sõnul näitavad tulemused, et tehisintellekti tuleb käsitleda uue siseohuna (TG, IE).
Interlocki lunavararündes kasutati tehisintellekti abil loodud Slopoly pahavara
IBM X-Force’i uurijad leidsid Interlocki lunavararündest uue pahavaratüve nimega Slopoly, mis aitas ründajal püsida kompromiteeritud serveris üle nädala ja varastada andmeid. Rünne algas ClickFixi sotsiaalse manipulatsiooni võttega ning hiljem paigaldati Slopoly PowerShelli tagauksena, mis suhtles juhtimis- ja kontrollitaristuga. Uurijate sõnul viitas skript sellele, et kood oli loodud suure keelemudeli abil, kuigi mudelit ennast ei suudetud tuvastada. Slopolyt kirjeldati tehniliselt lihtsa pahavarana, mis ei suuda ennast tehisaru abil ründe käigus muuta (BC).
Transparent Tribe võttis kasutusele tehisintellekti abil loodud vibeware taktikad
Uurijate sõnul kasutab Pakistaniga seotud rühmitus Transparent Tribe (APT36) tehisintellekti abil genereeritud koodi pahavara arenduse kiirendamiseks. Leitud näited hõlmasid mitut programmeerimiskeelt, sealhulgas Nim, Zig, Crystal, Rust, Go, .NET ja C#, koos tuntud tööriistadega nagu Havoc ja Cobalt Strike. Tehisarule viitab see, et loodud koodi kvaliteet oli kõikuv, sealhulgas ilmnesid loogikavead ja lõpetamata lahendused. Nimelt on TI loodud kood sageli süntaktiliselt korrektne, kuid funktsionaalselt nõrk. Samuti leiti lahendusi, mis aitasid sulanduda Discordi, Slacki, Google Sheetsi, Firebase'i, Supabase'i ja Google Drive'i seotud võrguliiklusesse. Teadurid kirjeldavad rühmituse kasutatud mudelit vibeware'ina (ehk vaibkoodimise pahavarana), sest kood luuakse kiiresti, seda muudetakse sageli ja see on tihti vigane, aga piisavalt kasulik, et ründeid toetada (CP).
Tehisarul põhinevad veebilehitsejad võivad õngitsusründe lõksu langeda
Küberturbe teadurid näitasid, et agentidel põhinevad tehisaru veebilehitsejad võivad jääda õngituslehti kergelt uskuma. Testides kasutati ära seda, kuidas TI-süsteemid oma tegevusi põhjendavad ja samm-sammult otsustavad. Nimelt jälgisid teadurid veebilehitseja ja TI süsteemide vahelist liiklust ja kasutasid tehisaru toodud põhjendusi, et luua õngitsusleht, mida agendipõhine veebilehitseja ei tuvastaks. Selleks täiendati õngituslehte vastavalt agendipõhise veebilehitseja tagasisidele, kuni see enam ei tõrkunud, arvates, et tegu on legitiimse lehega ja sisestas kasutaja andmed. Ründajad võivad sellist meetodit hakata kasutama, et sihtida õngitsuslehtedel inimkasutajate asemel hoopis agendipõhiseid lahendusi (THN).
Artikli illustratsioon on loodud tehisintellekti tarkvaraga ChatGPT.
Loomise kuupäev: 16.03.2026
