Лауреат премии Тьюринга: похожие на людей системы ИИ могут стать угрозой

ВАШИНГТОН, 3 июня. /ТАСС/. Развитие систем искусственного интеллекта (ИИ) в сторону уподобления человеку даст им свободу воли и возможность выйти из-под контроля. Это может стать угрозой для самого существования человечества, считает канадский информатик, лауреат премии Тьюринга за исследования в области машинного обучения (2018) Йошуа Бенджио.

"Если мы продолжим идти по этому пути (копирования модели поведения человека - прим. ТАСС), то это означает, что мы будем создавать похожие на нас сущности, которые не хотят умирать. Они могут оказаться умнее нас, и мы не уверены, что они будут подчиняться нашим правилам и инструкциям", - сказал ученый в интервью американскому порталу Axios. В качестве альтернативы он предлагает разрабатывать ИИ-модели, которые будут напоминать "скорее беспристрастного ученого, чем близкого друга".

Он также призвал жестче контролировать развитие ИИ-технологий. По его словам, сценарий, при котором управление крупнейшей системой ИИ окажется в руках "одного человека, компании или правительства", недопустим. В связи с этим необходима "жесткая система сдержек и противовесов".

Ряд ведущих мировых экспертов в области цифровых технологий на протяжении последних лет высказывают опасения, что развитие сильного ИИ может привести к серьезным проблемам для людей. В частности, американский миллиардер Илон Маск в ноябре 2023 года выразил опасение по поводу того, насколько стремительно развивается ИИ. Он назвал данную технологию потенциальной угрозой существованию человечества и сравнил ИИ с "обоюдоострым мечом", который можно использовать как во вред, так и во благо.