Р ъководителят на водещата компания за изкуствен интелект „Антропик” призова темпото на развитие на технологията да се забави. Моделите с изкуствен интелект трябва да бъдат подложени на строг контрол, каза Дарио Амодей в дълга публикация.
Според него бързото развитие на изкуствения интелект крие сериозни рискове. Както компаниите, така и националните правителства трябва да имат време да се справят с тях.
Амодей предлага план от три точки. Той включва независим мониторинг на изкуствения интелект по време на разработване на моделите. Някои участници в разработките казаха, че съществува вероятност от над 10% изкуственият интелект да излезе извън контрол и „да унищожи цялото човечество през следващото десетилетие“.
„Има различни начини, по които това може да се случи. Един от тях е чрез злоупотреба от злонамерени или просто небрежни лица. По-конкретно - щом изкуственият интелект започне значително да ускорява научния прогрес – особено в областта на биологията – той би могъл да предостави възможността да се създават нови, изкуствено конструирани вируси. При това по начин, който е изключително труден за контролиране”, смята служителят по сигурността на компанията Forethought Уилям Макаскил.
Източник: NOVA
