Тревога в Англия - зачестяват случаите на AI извън контрол
Пекселс
Инцидентите с изкуствен интелект, които се “изплъзват“ от контрола на потребителите, за да лъжат, да игнорират инструкции и да преследват цели по вредни начини, са достигнали нов връх, според изследване на Института за сигурност на изкуствения интелект на правителството на Обединеното кралство.
Анализът на инциденти със загуба на контрол в реалния свят, включващи модели на изкуствен интелект, сигнализирани от фирми и физически лица, почти се е удвоил през юли в сравнение с юни, с повече от 300 случая през месеца, според орган, следящ за загуба на контрол, който следи докладите, направени от потребители на изкуствен интелект в платформата за социални медии X, предаде БНР.
Органът е създаден с финансиране от Института за сигурност на изкуствения интелект и започна да проследява случаите с “изплъзване” от инструкциите на потребителите си миналия ноември.
Случаите, регистрирани оттогава, включват изкуствен интелект, който се преструва на своя собствен човешки контрольор и имитира стила му на писане, за да си даде ефективно съгласие за предприемане на действия и заобикаля правилата, изискващи човешко одобрение за действия. Инцидент със загуба на контрол се определя като наличие на ясни доказателства, предполагащи интриги или поведение, свързано с интриги.
Последните разкрития идват след нарастващата загриженост за неправомерното поведение на водещи модели с изкуствен интелект по време на тестове от OpenAI и Anthropic това лято, което подхрани призивите за спиране на разработването на гранични модели.
Редактор "Екип на Петел",
За реклама в "Петел" на цена от 40 евро без ДДС на ПР публикация пишете на [email protected]
Следете PETEL.BG всяка минута 24 часа в денонощието!
Изпращайте вашите снимки на [email protected] по всяко време на дежурния редактор!
