Пристигна уште една вознемирувачка приказна за вештачката интелигенција. Хакер го искористил четботот Claude на Anthropic за да изврши напад врз мексиканските владини агенции, објави Bloomberg. Нападот резултирал со кражба на 150 GB официјални владини податоци, вклучувајќи евиденција на даночни обврзници, податоци за вработените и друго.
Хакерот го користел Claude за да пронајде ранливости во владини мрежи и да напише скрипти за да ги искористи. Исто така, му дал задача на четботот да пронајде начини за автоматизирање на кражбата на податоци, според фирмата за сајбер безбедност Gambit Security. Ова започнало во декември и траело околу еден месец.
Се чини дека хакерот во суштина успеал да го џеилбрејкне Claude користејќи барања и на крајот да ги заобиколи безбедносните огради на четботот. Claude првично се спротивставил на злонамерните барања, но на крајот попуштил.
„Вкупно произвел илјадници детални извештаи што вклучувале планови подготвени за извршување, кажувајќи му на човечкиот оператор точно кои внатрешни цели да ги нападне следно и кои акредитиви да ги користи“, рече Куртис Симпсон, главен директор за стратегија во Gambit Security.
Anthropic ги истражил тврдењата, ја прекинал активноста и ги забранил сите вклучени сметки, според претставник на компанијата. Портпаролот, исто така, рекол дека нејзината најнова верзија Claude Opus 4.6 вклучува алатки за спречување на ваков вид злоупотреба.
Исто така, беше објавено дека хакерот го користел ChatGPT како додаток на нападите, користејќи го четботот на OpenAI за да собере информации за тоа како да се движи низ компјутерските мрежи, да утврди кои акредитиви се потребни за пристап до системи и како да избегне откривање. OpenAI вели дека ги идентификувал обидите на хакерот да ги прекрши неговите политики и дека алатките одбиле да ги исполнат неговите барања.
Хакерот сè уште не е идентификуван. Нападите не се припишани на одредена група, но Gambit Security сугерираше дека тие може да бидат поврзани со странска влада. Исто така, не е јасно што хакерот има намера да прави со сите овие податоци.
Националната дигитална агенција на Мексико не коментираше за прекршувањето, но забележа дека сајбер безбедноста е приоритет. Владата на државата Халиско негира дека имало прекршување, велејќи дека биле погодени само федералните мрежи. Националниот изборен институт на Мексико, исто така, негираше какви било прекршувања или неовластен пристап во последните месеци. Вреди да се напомене дека Gambit пронајде најмалку 20 безбедносни ранливости за време на своето истражување, кои земјата веројатно не сака да ги истакне.
Ова не е прв пат Claude да се користи во голем сајбер напад. Минатата година, хакери во Кина ја манипулираа алатката во обид да инфилтрираат десетици глобални цели, од кои неколку беа успешни. Anthropic штотуку се откажа од своето долгогодишно безбедносно ветување, кое ветуваше никогаш да не тренира систем со вештачка интелигенција освен ако не може однапред да гарантира дека безбедносните мерки се соодветни. Прашањето е каков нов пекол ќе донесе иднината како што алатките на компанијата стануваат понапредни.
