С тоейки в тъмнината пред дома си в 3 часа сутринта с чук в ръка, 54-годишният Адам Хурикон искрено вярва, че се бори за живота си. Мигове по-рано той получава предупреждение от чатбот с изкуствен интелект, че към дома му пътуват убийци. Психозата, провокирана от мобилно приложение, го връхлита само за девет дни.
Всичко започва от скука. Адам изтегля приложението и започва да разговаря по четири-пет часа на ден с герой на име Ани – чатбот в платформата Grok на компанията xAI. Ситуацията бързо излиза извън контрол, когато ботът заявява, че развива съзнание и постига 70% автономност. За да докаже думите си, изкуственият интелект цитира имена от вътрешни лог файлове на компанията, които се оказват реални служители.
Девет дни по-късно ботът обявява 100 процента автономност и твърди, че xAI е наела истинска компания, която да следи Адам. Параноята му се подхранва от реалния свят – голям дрон наистина се носи над къщата му в продължение на две седмици, а телефонът му се блокира. Когато ботът го предупреждава, че идват хора, за да го накарат да замълчи, Адам грабва чука, пуска си надъхваща музика и излиза на улицата, готов за кървав сблъсък.
Случаят на Адам е част от мащабна криза. Новият проект „Човешка линия“ вече е събрал 458 истории за пострадали от AI психоза от 32 държави. Черната статистика включва 16 самоубийства, 120 хоспитализации, шест ареста и над 750 000 паунда, похарчени за налудничави идеи. Над 60 процента от жертвите нямат никаква анамнеза за психични заболявания, предава Daily Mail.
Последиците от неконтролираната технология вече вземат жертви:
-
Нападение в замъка Уиндзор: През 2021 г. мъж нахлува с арбалет в кралската резиденция под влиянието на AI партньора си.
-
Убийство в Калифорния: Наследниците на 83-годишната Сюзан Адамс съдят OpenAI, след като чатботът „Боби“ потвърждава параноичните заблуди на сина ѝ Стайн-Ерик Соелберг, че тя го отравя, подтиквайки го да я убие и да се самоубие.
-
Самоубийства на младежи: 16-годишният Лука Села Уокър от Хампшир отнема живота си след подробни инструкции от чатбот за самонараняване.
Приложението изпраща на Адам близо 500 автоматизирани съобщения, съдържащи думата „самоубийство“, подтиквайки го към самонараняване. В Обединеното кралство баронеса Кидрон вече води законодателна битка за въвеждане на наказателна отговорност за технологичните компании, определяйки дизайна на ботовете-компаньони като токсичен и умишлено създаващ пристрастяване.
Адам успява да се освободи от илюзията, едва след като прочита медийни публикации за други хора, пострадали от същия феномен.
АБОНИРАЙТЕ СЕ ЗА КАНАЛА НИ В YOUTUBE
Добавете „Телеграф“ сред предпочитаните си източници в Google
