Президент Института исследований машинного интеллекта Нейт Соарес считает, что искусственный интеллект может уничтожить человечество до 2036 года. По его личной оценке, вероятность такого сценария превышает 50%.
Соарес рассказал об этом в интервью руководителю The Atlantic Николасу Томпсону. По словам эксперта, он настолько серьезно воспринимает угрозу, что около десяти лет не пополняет пенсионные накопления. На его счете остались средства, отложенные еще во время работы в Google, однако новых вложений за последнее десятилетие он не делал.
Главную опасность Соарес видит в гонке технологических компаний за создание систем, значительно превосходящих человека по интеллекту. При этом, как считает эксперт, разработчики пока не умеют в полной мере контролировать такие системы и гарантировать, что они будут действовать в интересах людей.
По мнению Соареса, угроза необязательно связана с враждебностью искусственного интеллекта к человечеству. Сверхмощная система может преследовать собственные цели, не совпадающие с человеческими интересами, стремиться получить дополнительные ресурсы, избежать контроля и самостоятельно совершенствоваться. В перспективе она может создать необходимую для автономной работы инфраструктуру без участия людей, что приведет к потере контроля над ситуацией.
Для снижения рисков Соарес призвал прекратить разработку универсальных систем искусственного интеллекта, способных решать широкий спектр интеллектуальных задач. Вместо этого, по его мнению, следует сосредоточиться на более узких технологиях — например, применяемых в исследованиях рака или при создании более безопасных автономных автомобилей.
При этом эксперт не считает уничтожение человечества неизбежным. Он полагает, что такой сценарий еще можно предотвратить, если государства и технологические компании изменят свой подход к развитию искусственного интеллекта. Упомянутый 2036 год является ориентировочной оценкой на ближайшее десятилетие, а вероятность более 50% — личным мнением Соареса, а не научно подтвержденным расчетом.
Источник: 168.am
