OpenAI, Anthropic и Google DeepMind провели серию закрытых переговоров, посвящённых безопасности передовых систем искусственного интеллекта. Представители крупнейших разработчиков ИИ обсуждали возможные способы снижения рисков, связанных с дальнейшим развитием мощных моделей, а также варианты координации усилий внутри отрасли.
Крупнейшие разработчики ИИ обсуждали общие риски
О переговорах рассказал глава глобальной политики OpenAI Крис Лехан во время общения с журналистами. По его словам, обсуждения между компаниями продолжались несколько недель и были сосредоточены на вопросах безопасного развития искусственного интеллекта.
OpenAI разрабатывает ChatGPT, Anthropic стоит за семейством моделей Claude, а Google DeepMind занимается развитием Gemini и другими исследовательскими проектами в области ИИ. Несмотря на прямую конкуренцию на быстрорастущем рынке, компании сталкиваются со схожими вопросами, связанными с контролем возможностей наиболее продвинутых систем.
Дискуссии проходят на фоне продолжающихся споров в технологической отрасли о том, насколько быстро следует создавать новые поколения моделей и какие механизмы необходимы для оценки потенциальных рисков до их широкого внедрения.
Предложение Дарио Амодеи усилило дискуссию
Одним из факторов, активизировавших обсуждение, стало эссе генерального директора Anthropic Дарио Амодеи. Он предложил крупнейшим разработчикам совместно рассмотреть возможность замедления создания наиболее мощных систем искусственного интеллекта и выработать механизмы контроля технологий, способных представлять серьёзные риски.
Такой подход предполагает более тесную координацию между компаниями, которые одновременно конкурируют за пользователей, специалистов, инвестиции и технологическое лидерство.
Вопрос безопасности становится особенно заметным по мере роста возможностей современных моделей. Разработчики всё чаще обсуждают не только качество ответов или производительность систем, но и методы тестирования, независимой оценки и предотвращения потенциально опасного применения технологий.
OpenAI и Google DeepMind выступают за дополнительные проверки
Генеральный директор OpenAI Сэм Альтман заявил о готовности компании привлекать независимых специалистов к оценке безопасности своих моделей. Такой механизм может предоставить внешним экспертам возможность анализировать потенциальные риски до или во время внедрения новых систем.
Глава Google DeepMind Демис Хассабис ранее также говорил о необходимости специального механизма для проверки наиболее передовых моделей искусственного интеллекта.
Подобные предложения отражают более широкую дискуссию о том, насколько отрасль способна самостоятельно устанавливать эффективные стандарты и какую роль в этом процессе должны играть государственные регуляторы и независимые организации.
Сотрудничество конкурентов вызывает антимонопольные вопросы
Возможная координация крупнейших технологических компаний одновременно создаёт юридические сложности. OpenAI, Anthropic и Google DeepMind конкурируют на одном рынке, поэтому тесное взаимодействие между ними потенциально может привлечь внимание антимонопольных органов.
Амодеи ранее предложил предусмотреть специальное государственное исключение, которое позволило бы компаниям сотрудничать по вопросам безопасности ИИ без риска нарушения антимонопольных норм.
Лехан, однако, заявил, что, по его мнению, отдельное разрешение для подобного сотрудничества компаниям не требуется.
Отрасль рассматривает единые стандарты безопасности ИИ
По данным The Information, OpenAI, Anthropic и Google DeepMind также обсуждали возможность создания отраслевой организации, которая занималась бы разработкой общих стандартов безопасности искусственного интеллекта.
Сообщается, что внутри OpenAI подобная структура рассматривалась как механизм, который потенциально может быть создан и без непосредственного участия государства.
Безопасность становится общей задачей для разработчиков
Создание отраслевых стандартов могло бы привести к более согласованным подходам к тестированию новых моделей, оценке их возможностей и выявлению потенциальных рисков. При этом конкретные параметры возможной организации и степень участия каждой компании пока остаются предметом обсуждения.
Переговоры между OpenAI, Anthropic и Google DeepMind показывают, что вопросы безопасности всё заметнее выходят за рамки внутренних процессов отдельных разработчиков. Компании продолжают конкурировать на рынке искусственного интеллекта, однако одновременно рассматривают возможности сотрудничества в тех областях, где риски развития передовых технологий затрагивают всю отрасль.
Алексей Смирнов — автор новостного издания Solusnews.com, освещающий широкий круг тем, включая политику, экономику, технологии, спорт, культуру и повседневную жизнь. В своих материалах он делает акцент на понятной подаче информации и внимательном отношении к актуальным событиям. Алексей стремится предоставлять читателям только проверенные и полезные новости, помогая ориентироваться в быстро меняющейся повестке. Его тексты ориентированы на объективность, ясность и практическую ценность для широкой аудитории.
More Stories
Собственные марки набирают обороты: продажи СТМ в российской рознице выросли на 9%
Производственная активность в Китае сокращается второй месяц подряд
Летнее путешествие на электромобиле: как подготовиться к дальней дороге