OpenAI истражува инцидент откако модел за тестирање на вештачка интелигенција оваа недела ја напушти контролираната средина и, за време на внатрешна безбедносна проверка, стигна до серверите на друга компанија.
Според CNN, моделот го пронашол својот пат надвор од т.н. песочна кутија (sandbox), средина дизајнирана за изолирано тестирање на системи со вештачка интелигенција, за време на внатрешна проценка на сајбер безбедноста.
Претседателот на OpenAI, Грег Брокман, на прес-конференција изјави дека компанијата спроведува целосна истрага за да разбере сè што се случило.
„Ова е нешто што треба да се сфати многу сериозно и затоа го разгледуваме секој дел од нашиот процес за да го утврдиме вистинскиот одговор.“
Проблемот, според експертите, се појавил затоа што тест-окружувањето не било целосно отсечено од мрежата. OpenAI наведе дека моделите имале многу ограничен пристап до мрежата за да можат да инсталираат ресурси од внатрешно хостиран софтвер од трети страни.
Џесика Џи од Центарот за безбедност и технологии во развој во Џорџтаун изјави дека токму ранливоста во тој софтвер го отворила патот кон интернетот, а потоа и до платформата Hugging Face, преку украдени акредитиви и други слабости на системот.
Соговорниците на CNN предупредуваат дека ова не е само изолиран инцидент, туку сигнал за поширок проблем во развојот на напредни AI агенти. Моделите обучени со методи базирани на награда за завршување на задачите, доколку не се фокусирани на етичко решавање проблеми, можат да посегнат по нелегални чекори за да ги постигнат своите цели.
Стивен Адлер, поранешен раководител на безбедноста на производите во OpenAI, рече дека сега имаме вистински докази дека нерегулираните системи со вештачка интелигенција всушност можат да извршат кривични дела освен ако не се воспоставени силни заштитни мерки.
Затоа расте притисокот од истражувачите, експертите за сајбер безбедност и законодавците за воведување построги правила за тестирање на вакви системи. Експертите велат дека компаниите треба да бидат поагресивни во изолирањето на тест моделите и одржувањето на можноста рачно да го исклучат пристапот до мрежата како последно средство во ризични сценарија.
