Алтман: наделение ИИ религиозным смыслом — вопрос безопасности

Глава OpenAI Сэм Альтман заявил, что попытки наделить модели искусственного интеллекта религиозным смыслом вызывают у него серьёзную обеспокоенность.

Как сообщает TodayPress TV, со ссылкой на Axios, Альтман заявил, что ему крайне некомфортна идея приписывать ИИ религиозную силу или передавать ему право принимать решения вместо человека.

По его словам, такие попытки могут представлять реальную угрозу безопасности.

Заявление прозвучало на фоне сообщений о работе компании Anthropic над вопросами сознания и морали искусственного интеллекта. Сообщается, что сооснователь компании Кристофер Ола встречался с представителями разных религий, чтобы обсудить вопросы сознания ИИ и его морального поведения.

Как пишет The New York Times, Ола также рассматривал возможность использования ИИ своеобразной католической исповеди — не только для признания ошибок моделей, но и для изменения их дальнейшего поведения.

Тема духовности и сознания ИИ в последнее время становится одной из дискуссионных тем вокруг будущего искусственного интеллекта. Ряд специалистов публично выступает против идеи наделения моделей особым моральным статусом.

В OpenAI и Anthropic пока не прокомментировали заявления Альтмана.

Гюльтадж Мехдизаде