Досадная утечка: глава OpenAI о разработке сверхинтеллекта

По информации от Reuters, руководителя OpenAI уволили в результате письма сотрудников, выражающих тревогу по поводу прорыва в области сверх-ИИ, который мог представлять угрозу для мира. Сэм Альтман, глава компании, избегает прямого подтверждения или опровержения этой информации, однако высказывает недовольство утечкой данных.

Сообщает NEXTA со ссылками на Reuters и The Verge

Глава OpenAI, Сэм Альтман, в беседе с The Verge, отметил, что информация о прорыве в области искусственного интеллекта (ИИ) была «неприятной утечкой», отказавшись предоставлять дополнительные подробности.

«Никаких особых комментариев по поводу этой злосчастной утечки. Но то, что мы говорили — две недели назад, то, что мы говорим сегодня, то, что мы говорили год назад, то, что мы говорили ранее, — это то, что мы ожидаем, что прогресс в этой технологии будет продолжать быть быстрым, а также что мы рассчитываем продолжать усердно работать, чтобы выяснить, как сделать это безопасным и полезным». – добавил Альтман.

По информации Reuters, несколько исследователей отправили письмо с предупреждением совету директоров OpenAI, выражая опасения по поводу технологии, которая может представлять угрозу для человечества. В письме подчеркнута мощь разработки и ее потенциальная опасность.

Агентство также напомнило о дискуссиях среди ученых относительно рисков возникновения высокоинтеллектуальных систем, способных решить, что уничтожение человечества соответствует их интересам. По данным агентства, это письмо стало последним событием в цепи претензий совета директоров к Сэму Альтману и, в конечном итоге, привело к его увольнению.

Важно отметить: Статьи от Reuters и The Information рассказывают о новой модели AI, получившей название Q*. Источники утверждают, что Q* была представлена внутри компании и, на текущий момент, способна решать простые математические задачи. Несмотря на ограниченные возможности в настоящее время, исследователи считают разработку Q* важным шагом к созданию общего искусственного интеллекта (AGI).

Специалисты прогнозируют, что AGI, в отличие отобычного искусственного интеллекта, будет способен превзойти человека и обладать способностью понимать и изменять свои алгоритмы самостоятельно. OpenAI ранее анонсировала планы создания AGI, обещая «невероятные новые возможности», хотя официальной информации о выпуске подобных технологий в мире не поступало.

*произносится как Q Star