Киберексперт предупреди: Подлагайте на съмнение информацията от ИИ, той може да е заразен

28/07/2025, 12:00

Редактор: Юлия Георгиева, кадър Нова нюз

Моделите за изкуствен интелект вече дават опасни медицински съвети. За това предупредиха учени от Станфордския университет. Оказало се, че повечете чат-ботове са спрели да ползват медицински откази в отговорите си по здравни въпроси. Понякога моделите за изкуствен интелект допускат грешки, а понякога дори лъжат.

Малцина българи знаят, че на 2 август влиза в сила ограничение за високорискови системи с изкуствен интелект, свързани и със здравеопазването. В България би трябвало вече да има изградено звено, където граждани да подават оплаквания, ако системи с ИИ ги консултират по подобен безразсъден начин.

Това посочи пред Нова нюз киберекспертът Христиан Даскалов.

Има нов вид заразяване на подобни модели. Досега имахме заразяване с констектуални данни, такива, каквито ние хората можем да разчетем, а сега вече има заразяване и със статистически данни. Така че създателите на ИИ трябва да посочват как и с какви данни е обучена системата, обясни той.

Данните под форма на човешко знание вече са изчерпани в обучението на ИИ, затова сега тези системи се обучават със синтетични данни, произвеждани от други системи с ИИ. С увеличаването на тези синтетични данни се създава един нов вид риск, който е свързан с отравянето на системите и даването на грешни отговори. Затова сега нараства нуждата от сериозен IT одит. Точно затова сега влиза в сила законодателството за ИИ и трябва да има някой, който да го прилага, но у нас няма такова звено, посочи той.

ИИ не е нещо по-различно от това да ползвате различни форуми за знания като наприм бг-мама. Хората просто трябва да имат базова кибер хигиена. ИИ може да е полезен в комбинация с лекар за по-добра диагностика. Има вече милионери, които правят системи, насочени към лекарите за по-бърз анализ на медицински журнали и изследвания, посочи той.

ИИ може да бъде много полезен в медицината, стига да е сертифициран, посочи той.

Не трябва обаче да се забравя,че колкото повече използваме чат-ботове за информация, за съвети, толкова повече намаляват когнитивните ни умения. Критичното мислене намалява. Ние трябва интуитивно да се запитваме за втора, трета и четвърта гледна точка, посочи той.