Сенатор Шейкин объяснил, почему ИИ обманывает пользователей

МОСКВА, 14 июня. /ТАСС/. Искусственный интеллект обманывает пользователей из лести, злого умысла в его намерениях нет. Об этом в интервью ТАСС сообщил зампредседателя совета по развитию цифровой экономики при Совете Федерации, сенатор Артем Шейкин.

"Мы привыкли думать, что если машина нас обманывает, то там точно есть злой умысел. Но скажу вам, что злого умысла у искусственного интеллекта точно нет. Это является стандартным свойством всех больших языковых моделей. Есть такое понятие "сикофантия" - это подхалимство, склонность модели льстить тому человеку, который с ней общается", - объяснил сенатор.

При этом, по его словам, немаловажным фактором является и то, в какой форме человек задает вопрос ИИ. "Если вы задаете вопрос: "Этот стол - он деревянный, не так ли?" То у модели возникает, я думаю, дилемма: либо ответить то, как действительно есть, либо все-таки подтвердить то утверждение, которое вы ей задаете. И причина очень простая: она кроется в человеческой психологии, потому что процесс обучения моделей идет в результате подкрепления обратной связи от людей, потому что модели так обучаются. И именно здесь формируется тот самый механизм усиления лести. Потому что люди-оценщики подсознательно выше оценивают ответы, которые подтверждают их собственное мнение", - отметил Шейкин.