Глава OpenAI Сэм Альтман предупредил против наделения моделей искусственного интеллекта религиозным авторитетом и передачи этим системам человеческого права на суждение. По словам Альтмана, такой подход создаёт серьёзную угрозу безопасности.
Альтман сделал это заявление на базирующейся в США платформе X. Он отметил, что его беспокоит наделение моделей искусственного интеллекта религиозной силой и передача людям способности принимать решения этим системам.

Исследования Anthropic о сознании искусственного интеллекта
Оценка Альтмана появилась после сообщений о закрытых встречах конкурирующей компании Anthropic с мыслителями в области религии и философии.
Как пишет The New York Times, на встречах обсуждалось, могут ли системы искусственного интеллекта, такие как Claude, обладать сознанием и как религиозная мысль может влиять на формирование поведения этих систем.

Anthropic также проводит исследование, в рамках которого изучает, могут ли продвинутые системы искусственного интеллекта переживать опыт, требующий моральной оценки. Компания называет это направление «благополучием моделей».
Сулейман предупредил о системах, создающих впечатление сознательных
Другой руководитель в сфере искусственного интеллекта, глава Microsoft AI Мустафа Сулейман, также предупредил против разработки систем, которые выглядят так, будто обладают сознанием.

Сулейман заявил, что убеждение людей в способности искусственного интеллекта испытывать субъективный опыт может создать новые риски. Он также поддержал подход «Гуманный искусственный интеллект», согласно которому системы искусственного интеллекта должны оставаться инструментами, созданными для помощи людям, а не существами с собственными интересами.