Технический эксперт MIT: человечество «стремится ко дну» из-за ИИ

Ведущие эксперты в области искусственного интеллекта (ИИ) призвали к регулированию и надзору за исключительно мощными моделями ИИ. В недавно опубликованном документе 23 специалиста в области ИИ, включая Джеффри Хинтона и Йошуа Бенгио, лауреатов премии Тьюринга, подчеркнули необходимость того, чтобы правительства имели право приостанавливать и лицензировать разработку этих передовых моделей.

Джиллиан Хэдфилд (Gillian Hadfield), один из авторов статьи, обратила внимание на опасения по поводу грядущих моделей ИИ, которые могут оказаться значительно мощнее современных технологий. Некоторые компании планируют создать модели с вычислительной мощностью в 100 раз больше в течение ближайших 18 месяцев. Отсутствие регулирования этих моделей создает потенциальные риски.

Макс Тегмарк, профессор физики и исследователь искусственного интеллекта из Массачусетского технологического института, заявил, что мир «является свидетелем гонки на дно, которую необходимо остановить».

В статье подчеркивается необходимость государственного лицензирования и возможности остановить разработку моделей с возможностями, которые могут оказаться выше человеческого контроля.