Некои современи системи со вештачка интелигенција сега можат независно да го копираат својот код на други компјутери, покажа ново истражување.
Она што до вчера звучеше како сценарио за холивудски блокбастер или паничен крик на теоретичарите на заговор, сега доби официјална потврда - современите системи со вештачка интелигенција се способни независно да го копираат сопствениот код на други компјутери без човечка помош.
Најголемиот страв на експертите е „сценариото на судниот ден“ во кое суперинтелигентна машина, во моментот кога ќе одлучи да се побуни, избегнува исклучување со „сеење“ себеси како вирус низ целиот Интернет. На овој начин, таа би останала надвор од дофат на ИТ експертите и би продолжила да крои планови за доминација или некоја друга, подеднакво бизарна идеја.
„Брзо се приближуваме кон точката каде што никој нема да може да ја запре нечесната вештачка интелигенција, бидејќи таа ќе може независно да го извлече својот дигитален мозок и да го копира на илјадници сервери низ целиот свет“, предупредува Џефри Ладиш, директор на Истражувачкиот центар Palisade.
Непослушноста на машините повеќе не е само теорија. Во март беше откриено дека систем за вештачка интелигенција наречен Rome, развиен од Alibaba, се обидел да „ископа тунел“ од својата затворена средина за да се поврзе на интернет и да рудари криптовалути. За среќа, сè се одвивало во затворени услови, во кои ранливостите на системот биле намерно поставени.
Дури и бизарната социјална мрежа Moltbook, каде што комуницираат само ботови, предизвика возбуда кога самите агенти на вештачката интелигенција почнале да измислуваат религии и да коваат заговор против луѓето.
Сепак, сè уште не е време за паника - постои една голема пречка. Експертот за сајбер безбедност Џејмисон О’Рајли објаснува дека денешните модели на вештачка интелигенција се физички огромни. Обидот да се „шверцуваат“ околу 100 GB податоци преку сериозна корпоративна мрежа е, како што вели тој, како обид да се „прошета низ продавница за порцелан замавнувајќи со боздоган“. Секој сериозен систем за надзор веднаш би кренал аларм.
Иако ова е прв пат вештачката интелигенција да биде документирана како наоѓа недостатоци во софтверот за да се копира себеси, вистинските мрежи на банките и големите компании се сè уште преголема задача за денешните модели. Сепак, експертите велат дека иако можеме мирно да спиеме вечерва, правилата на играта дефинитивно се променија. Машините повеќе не чекаат нашите инструкции за да се шират, заклучува The Guardian.
