Истражувачи од Универзитетот во Цирих користеле ботови со вештачка интелигенција за да ги променат мислењата на луѓето на Reddit.
Група истражувачи тајно спровеле четиримесечен експеримент во една од најпопуларните заедници на Reddit користејќи коментари генерирани од вештачка интелигенција за да ја тестираат убедливоста на јазичните модели на големи размери.
Експериментот, кој се одржал во рамките на заедницата r/changemyview и беше разоткриен од модераторите во текот на викендот, беше опишан како „психолошка манипулација“ на корисници кои не биле свесни дека учествуваат во истражувањето.
„Тимот за модерација мора да ја информира заедницата за неовластен експеримент спроведен од истражувачи од Универзитетот во Цирих врз корисници на r/changemyview“, напишаа модераторите во објава на Reddit. „Овој експеримент вклучувал коментари генерирани од вештачка интелигенција за да се испита како вештачката интелигенција може да влијае на промената на ставот“.
Истражувачите користеле големи јазични модели (LLM) за да генерираат коментари на објави во заедница од 3,8 милиони членови, во кои корисниците изразуваат мислења и ги покануваат другите да ги оспорат со аргументи.
Според модераторот, вештачката интелигенција користела различни идентитети во коментарите за време на експериментот, вклучувајќи ја и улогата на лице кое преживеало сексуално насилство, според 404 Media.
Модераторите на subreddit-от r/changemyview истакнуваат дека истражувачите прекршиле неколку правила на заедницата, вклучувајќи ја обврската да се нагласи кога коментар е генериран од вештачка интелигенција, како и забраната за употреба на ботови. Затоа, поднесоа официјална жалба до Универзитетот во Цирих и побараа од истражувачите да не ја објавуваат нивната работа.
Самиот Reddit, исто така, размислува за правна акција. Генералниот советник на Reddit, Бен Ли, рече дека постапките на истражувачите биле „длабоко погрешни, и морално и правно“ и претставуваат кршење на правилата на платформата. „Во тек е формална жалба до Универзитетот во Цирих и истражувачкиот тим со правни барања. Ќе направиме сè што можеме за да ја заштитиме заедницата и да се осигураме дека одговорните ќе бидат повикани на одговорност“.
Од друга страна, истражувачите тврдат дека нивниот проект е одобрен од етичкиот комитет на универзитетот и дека нивното истражување може да им помогне на заедниците како Reddit да се заштитат од злонамерна употреба на вештачка интелигенција.
„Разбираме дека модераторите сметаат дека оваа студија е непожелен упад во вашата заедница и разбираме дека некои од вас можеби ќе се чувствуваат непријатно што експериментот е спроведен без претходна согласност“, рекоа истражувачите во коментар до модераторите. „Веруваме дека потенцијалните придобивки од ова истражување значително ги надминуваат ризиците. Нашата контролирана студија со низок ризик даде вредни сознанија за реалните способности на LLM да влијаат врз ставовите на луѓето - способности кои веќе се лесно достапни за секого и кои злонамерните актери би можеле да ги искористат за многу поопасни цели (на пр., манипулација со избори или ширење говор на омраза)“.
Модераторите на r/changemyview заедницата го оспоруваат тврдењето дека истражувањето било неопходно или иновативно, истакнувајќи дека истражувачите од OpenAI веќе спровеле експерименти користејќи податоци од тој subreddit, но без да експериментираат врз корисници без нивна согласност.
