Американската компанија за вештачка интелигенција Anthropic, развивач на добро познатиот AI асистент Claude, вчера објави дека помалите модели на вештачка интелигенција би можеле, во рок од неколку месеци, да станат способни автономно да се шират на уреди поврзани со интернет, како што се паметни рерни и поевтини Android телевизори.
Во своите експерименти, компанијата тестираше дали моделите на вештачка интелигенција можат да идентификуваат уреди со безбедносни ранливости, да се копираат на нив и да продолжат да се шират без човечка интервенција. Резултатите покажаа дека иако помалите модели би можеле да извршат многу од потребните чекори, тие сепак се мачеа да го завршат целиот процес.
Во поедноставените тестови каде што беа отстранети одредени безбедносни бариери, моделот GLM-5.2 и други помоќни модели успеаја автономно да се копираат и шират на други уреди.
Зошто би било тешко да се запрат?
Anthropic предупредува дека ваквите модели на вештачка интелигенција би можеле да бидат тешко запрени бидејќи нема да има единствена централна точка каде што би можеле да се исклучат. За разлика од традиционалниот малициозен софтвер, тие би можеле автономно да најдат начини да работат на уреди со кои никогаш порано не се сретнале, а истовремено да се обидат да пристапат до моќни процесори во центрите за податоци.
Истражувањето се фокусираше на уреди поврзани на интернет – како што се Android телевизори, паметни домашни апарати и слична опрема – на кои честопати им недостасува соодветна безбедносна заштита. Anthropic предупредува дека ако помалите модели на вештачка интелигенција продолжат да се развиваат со сегашното темпо, тие би можеле да станат способни автономно да се копираат себеси и да се шират на други уреди веќе до крајот на оваа година. Кратко потоа, системите што користат други модели на вештачка интелигенција би можеле да стекнат слични можности.
Според проценката на Anthropic, ваквите системи на вештачка интелигенција веројатно би се ширеле бавно, искористувајќи голем број лесно достапни и помалку безбедни уреди. Затоа компанијата предупредува дека безбедноста на овие системи мора да се подобри за да се спречи неконтролираното ширење на вештачката интелигенција.
