Сэм Альтман объяснил, почему Илон Маск опасается концентрации власти в сфере ИИ

Глава OpenAI Сэм Альтман считает, что Илон Маск и другие бывшие сотрудники компании создают собственные ИИ-лаборатории из-за опасений, что контроль над развитием искусственного интеллекта может оказаться в руках одного человека или организации.

По мнению Альтмана, существует два основных сценария, при которых развитие ИИ может обернуться серьезными проблемами. Первый — потеря контроля над системами, которые станут значительно умнее людей и начнут действовать самостоятельно. Второй — чрезмерная концентрация власти у одной компании или отдельного человека.

Именно поэтому руководитель OpenAI считает конкуренцию между независимыми разработчиками важным условием безопасного развития технологий. В качестве примеров он привел Илона Маска, а также бывших коллег по OpenAI Дарио Амодеи и Миру Мурати, которые основали собственные ИИ-компании — Anthropic и Thinking Machines Lab соответственно.

Отвечая на вопрос о мотивах Маска, Альтман предположил, что тот опасается сосредоточения слишком больших полномочий в его руках. По словам главы OpenAI, Маск может считать подходы компании к разработке искусственного интеллекта неправильными и поэтому стремиться создать альтернативу.

При этом взгляды двух предпринимателей на потенциальные угрозы ИИ во многом совпадают. Оба предупреждают о рисках появления сверхинтеллекта, который человечество не сможет контролировать.

Фото на обложке: rawpixel.com / Magnific