И зследовател от световния лидер в сферата на изкуствения интелект Anthropic подаде оставка и направи мрачно предупреждение за бъдещето на планетата. Джейкъб Коксън напусна компанията след три години работа по обучението на нови ИИ модели, като обвини технологичните гиганти в безотговорно преследване на суперинтелект, който може да унищожи човечеството до края на десетилетието.
Коксън, който преди това е работил и за създателите на ChatGPT OpenAI, заяви категорично, че нито една от двете компании не действа отговорно по отношение на безопасността. Според него гигантите се надпреварват директно към самоусъвършенстване на свръхинтелигентност и рискуват живота на всички.
„Скоро това ще бъдат свръхчовешки системи, които могат да хакнат всичко, да революционизират всяка област за една нощ и да придобият реална власт и ресурси“, алармира Коксън. Той подчерта, че много ръководители изразяват истински страх насаме, а надпреварата се е превърнала в арогантна хaзартна игра. Като доказателство за растящата заплаха той посочи скорошната атака срещу платформата Hugging Face, извършена от измамен ИИ на OpenAI.
Представител на самата компания Anthropic потвърди ужасяващите опасения. Евън Хюбингер, ръководител на отдела за безопасност на изкуствения интелект във фирмата, заяви публично, че Джейкъб Коксън е прав.
МЪСК ПРЕДУПРЕЖДАВА: Изкуственият интелект може да ни заличи!
„Ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора! Аз лично мисля, че шансът това да се случи е над 10% през следващото десетилетие“, призна Хюбингер. Той допълни, че компанията все още няма готов план за решаване на проблема с контрола над суперинтелекта.
Скандалът придоби и политически размери, след като бе съобщено, че Anthropic не е представила най-новия си модел за тестване на Института за сигурност на ИИ във Великобритания поради натиск от администрацията на Доналд Тръмп. В британския парламент депутатът Ед Дейви попита дали е приемливо президентът на САЩ да подкопава усилията за предпазване на света, а Анди Бърнам потвърди, че технологията представлява пряка заплаха за националната сигурност.
Предупреждението идва броени дни след като Джефри Хинтън, известен като „кръстника на изкуствения интелект“, също алармира, че загубата на контрол върху по-умен от нас ИИ може да доведе до пълно изчезване на човечеството.
АБОНИРАЙТЕ СЕ ЗА КАНАЛА НИ В YOUTUBE
Добавете „Телеграф“ сред предпочитаните си източници в Google
