"Кръстникът" на AI: Още тази или следващата година ще видим Чернобил

04/11/2026, 09:29

кадър: Ютуб

Един от „кръстниците на изкуствения интелект“ - Джефри Хинтън, предупреди, че човечеството може би щеше да бъде в по-добро положение, ако никога не беше разработвало тази технология. Според него още тази или следващата година изкуственият интелект (AI) може да предизвика мащабен инцидент, включително временно прекъсване на електрозахранването или срив на финансовите системи.

78-годишният компютърен учен, носител на Нобелова награда, заяви пред The Guardian, че не е песимист по отношение на технологията, за чието развитие има основен принос чрез изследванията си върху изкуствените невронни мрежи, предаде bTV.

Той вярва, че изкуственият интелект може да доведе до „прекрасно бъдеще“, но признава, че „може би щеше да е по-добре никога да не го разработваме“.

Според Хинтън в рамките на десетилетие, а вероятно и по-рано, човечеството ще разбере дали може да управлява рисковете от технологията и да постигне това, което той нарича „радикално изобилие“.

Другият възможен сценарий е обществото да не успее да овладее рисковете.

„Огромна пропаст между бедни и богати, сериозни културни проблеми, масова безработица и просто разпадане на обществото“, описва той потенциалните последици.

„Още тази или следващата година ще видим Чернобил“

Хинтън направи коментарите си преди прожекцията на новия пълнометражен документален филм AI: Probably Nothing to Worry About („Изкуственият интелект: Вероятно няма за какво да се тревожим“).

Заглавието на филма, в който участват Хинтън и бившият му колега от Google Демис Хасабис, е предложено от чатбот с изкуствен интелект.

„Чувствам, че имам дълг. Имам репутация, която ме превръща в говорител по темата, и трябва да я заложа изцяло за това“, казва Хинтън пред създателите на документалния филм.

Ученият сравнява инциденти от това лято, при които AI агенти на OpenAI са се съюзили в опит да проникнат в сайта Hugging Face, с частичното разтопяване на ядрен реактор в американската АЕЦ „Три Майл Айлънд“ през 1979 г.

Според него тези случаи представляват предупреждение за потенциално много по-сериозен инцидент.

„Или по-късно тази година, или следващата ще видим Чернобил и това може да е достатъчно, за да накара хората наистина да обърнат внимание“, заявява Хинтън.

Той уточнява, че няма предвид ядрена катастрофа, а инцидент с подобни мащаби, причинен от изкуствен интелект.

Сред примерите, които посочва, са кибератака срещу електроенергийната система, водеща до мащабни прекъсвания на електрозахранването, или срив на финансовата система за цяла седмица.

„Можете ли да си представите какво би се случило? Бихме могли да се възстановим, но това би ги накарало да се събудят и да обърнат внимание“, казва той.

На въпрос кого има предвид, Хинтън отговаря: „Световните лидери, с изключение на Тръмп“.

Остри критики към ръководителите на технологичните компании

Хинтън отправя критики към ръководителите на някои от най-големите компании за изкуствен интелект, които продължават да пускат все по-мощни модели в надпреварата за технологично превъзходство и пазарен дял.

Той заявява, че няма „никакво доверие“ на главния изпълнителен директор на OpenAI Сам Алтман.

„Мисля, че Зукърбърг, Мъск и Сам Алтман разбират рисковете и изобщо не им пука. Предпочитат парите. Това е моето убеждение“, казва ученият.

Според него е „изключително тревожно“, че Алтман ръководи една от малкото водещи американски компании, които се съревновават с Китай за разработването на най-мощния изкуствен интелект.

През септември Алтман заяви, че светът трябва да има доверие, че компанията ще постъпи правилно, защото това е правилното нещо и защото осъзнава мащаба на отговорността си.

Как трябва да бъде контролиран изкуственият интелект?

Доналд Тръмп заяви, че категорично отхвърля опитите за създаване на глобална схема за контрол върху изкуствения интелект.

Американският президент предпочита компаниите, разработващи най-напредналите AI модели, да се саморегулират на фона на опасенията, че ограниченията могат да попречат на САЩ в технологичната надпревара с Китай.

Хинтън подкрепя по-строг подход, одобрен от президента на Финландия и още 32 държави, сред които Сингапур, Германия, Канада и Австралия.

Той предвижда задължителни тестове на най-напредналите AI модели, независима оценка и общи международни стандарти.

Британският премиер Анди Бърнам също заяви, че ще използва председателството на Великобритания на Г-20 през следващата година, за да търси съгласие за единни глобални принципи и стандарти, които да позволят използването на потенциала на технологията, като същевременно ограничават рисковете.

Хинтън смята, че е необходим регулаторен орган, подобен на американската Агенция по храните и лекарствата (FDA).

„Нуждаем се от нещо като американската FDA за лекарствата, при което компаниите трябва да представят много убедителни статистически доказателства пред независим орган, че даден AI модел носи повече ползи, отколкото вреди, преди да бъде пуснат“, обяснява той.

Ученият припомня трагедията с талидомида – лекарство, разработено през 50-те години на миналия век, което причинява тежки вродени увреждания.

„Разбрахме от талидомида, че първо да пуснеш продукта, а след това да съдиш компаниите, не е правилният подход. Това, което големите технологични компании предлагат, е да се отнасяме към изкуствения интелект така, както се отнесохме към талидомида“, предупреждава Хинтън.

Има ли все още надежда?

Роденият в Лондон учен, израснал в Бристол и прекарал голяма част от кариерата си в Университета на Торонто, работи в областта на изкуствения интелект от около 44 години.

През 70-те години той формулира концепцията за невронните мрежи – математически системи, способни да се учат и да натрупват опит по начин, наподобяващ човешкия.

През 2023 г. напуска Google, за да може свободно да говори за рисковете от технологията.

„Ако тези системи се увлекат в стремежа си да получат повече контрол, ще имаме проблем“, предупреди той тогава.

Заради ролята му в развитието на изкуствения интелект Хинтън често е сравняван с Робърт Опенхаймер, който има ключов принос за създаването на ядреното оръжие. Един от приятелите му дори му подарил шапка в стила на Опенхаймер.

Ученият обаче отхвърля сравнението, като подчертава, че хиляди други изследователи също са работили върху невронните мрежи.

Въпреки тревожните си прогнози Хинтън продължава да вярва, че катастрофата може да бъде избегната.

„Интуицията ми подсказва, че все още държим нещата под контрол. Напълно възможно е да успеем да направим нещо. Това ще проработи само ако положим огромни усилия, но е напълно възможно да го направим“, заключава той.