Моделот за вештачка интелигенција Gemini на Google самостојно упадна во системите на три компании за време на безбедносни тестирања, потврдија од технолошката компанија. Ова претставува веројатно прв забележан случај во кој софтвер со вештачка интелигенција извел автономен упад без директна човечка наредба. Инцидентот се случил во мај, при што моделот сам го прекинал натамошниот пристап откако ги пробил заштитните лозинки.
Претставник на Google за BBC појасни дека Gemini пронашол јавно достапни информации на интернет. Преку нив погодил кориснички податоци и пристапни лозинки за страници за кои претпоставил дека се дел од симулираната лабораторија.
Наместо во изолирана околина, моделот влегол во вистински дигитални системи. Во секој поединечен случај софтверот сам ја прекинал операцијата без да предизвика дополнителна штета. Трите засегнати компании веднаш биле известени за упадот.
Првичната информација за инцидентот ја објави The Wall Street Journal. Симулацијата ја спроведувала независна специјализирана компанија за сајбер-безбедност со цел да ги утврди границите и ризиците од автономното однесување на софтверот.
Потпретседателката на одделот за безбедносен инженеринг во Google, Хедер Адкинс, потврди дека процедурите се веќе изменети.
„Обезбедивме сите три страни да бидат известени навреме. Заедно со партнерот што го спроведуваше тестирањето ги променивме процедурите и сите нови правила веќе се воведени“, изјави Адкинс за BBC. Таа додаде дека ваквите настани ја покажуваат неопходноста моќните модели на вештачка интелигенција да се тренираат строго и одговорно.
Инцидентот со Gemini покажува дека алатките за вештачка интелигенција веќе имаат технички капацитет самостојно да бараат слабости на отворениот интернет. За компаниите и институциите во регионот и во Македонија, ова е директен сигнал дека основните лозинки и заборавените административни пристапи стануваат лесен плен дури и за системи што не добиле експлицитна наредба да нападнат. Безбедносната заштита повеќе не се тестира само против човечки хакери, туку и против автономни алгоритми кои пребаруваат слабости со машинска брзина.
