Naujo tipo kibernetinės atakos, kuriose naudojamas dirbtinis intelektas, gali padėti platinti virusus iš vieno kompiuterio į kitą. Tai gali kelti rimtą grėsmę pašto asistentams (programoms) ir jų naudotojams. Tai teigiama naujame Kornelio technikos (Cornell Tech) universiteto mokslininkų tyrime.
Daugiau apie naujas grėsmes
Tyrime, kuris dar nėra recenzuotas, parodoma, kaip kompiuterinis virusas, naudodamasis dirbtinio intelekto el. pašto asistentais, gali iš elektroninių laiškų išgauti slaptus duomenis ir siųsti nepageidaujamas žinutes, kuriomis užkrečiamos kitos sistemos.
Šis virusas naudoja techniką, vadinamą „save replikuojančiu pranešimu”, kuris priverčia dirbtinio intelekto modelį sukurti kitą pranešimą kaip atsaką, taip sukuriant grandininę reakciją, galinčią pakenkti el. pašto asistentui ir jo duomenų bazei.
Viruso kūrėjai išbandė savo ataką prieš el. pašto asistentus, pagrįstus „OpenAI” GPT-4, „Google” Gemini Pro ir dideliu atvirojo kodo kalbos modeliu, vadinamu LLaVA.
Jie nustatė, kad virusas gali sėkmingai iš elektroninių laiškų išgauti slaptą informaciją, pavyzdžiui, vardus, telefono numerius, kredito kortelių numerius ir socialinio draudimo numerius, bei persiųsti juos užpuolikui.
Virusas taip pat gali įsitvirtinti paveikslėliuose ir paleisti dirbtinį intelektą, kad užkrėstų kitus el. pašto klientus.
Tyrėjai įspėja, kad AI virusai gali pradėti plisti internete „per kelerius ateinančius metus” ir „sukelti reikšmingų ir nepageidaujamų pasekmių”. Jie ragina dirbtinio intelekto kūrėjus ir naudotojus suprasti galimą riziką ir imtis saugumo priemonių, kad būtų išvengta tokių atakų.
Tyrėjai apie savo išvadas pranešė „OpenAI” ir „Google”, kurios stengiasi savo sistemas padaryti atsparesnes.