Футуролог: Появата на генерален ИИ може да бъде заплаха за човечеството

19/02/2025, 19:20

Снимка: Пиксабей, илюстративна

Доц. Мариана Тодорова, футуролог към БАН, е част от група за изработване на архитектура на комисия към ООН, която да следи за разработките на генерален ИИ и да изучава въпросите как той би могъл да се обучава и контролира. Тя гостува в предаването "Денят на живо", за да разясни доколко сме подготвени за развитието на изкуствения интелект.

"В момента на на нас ни липсва капацитет да разберем какъв би бил генералният изкуствен интелект и ще можем ли да го разбираме. Всички, които разработват такъв, трябва да бъдат обхванати. Ще настояваме за регистрация, лицензиране и строг контрол", каза доц. Тодорова.

Тя отбеляза, че генералният ИИ наподобява нас и би могъл да бъде далеч по-умен от нас. Дори може да нямаме когнитивните възможности да го разберем. Именно затова е нужна глобална координация.

Ученият смята, че дори без да изгради съзнателност, той би могъл да си поставя собствени цели. Тя се позова на разработки, които показват, че такъв тип ИИ се опитва да заобиколи поставените му бариери. В друг ракурс доц. Тодорова допусна, че едно такова откритие може да ни помогне за разкриване тайната на Вселената, революция в медицината и т.н.

По отношение на съвременните разработки, тя посочи, че ИИ се ползва като инструмент за геостратегическо надмощие. Футурологът отбеляза, че Grok-3 на Илон Мъск е изграден върху платформата на суперкомпютъра "Colossus" с чипове, до които Китай няма достъп. Оцени го като бърз, учещ се от грешките си, способен да се задълбочава и да изгражда причинно-следствени връзки.

По отношение на медицината и по-конкретно инвитро, доц. Тодорова беше категорична, че нещата от научната фантастика влизат в дневния ред на научни организации. Но успокои, че сме далеч от изобретяването на “изкуствени утроби”. На първоначален етап тя смята, че ще се отрязват гените, отговорни за тежки болести.