Отчет по безопасности ИИ дает индустрии проверку на реальность — и все проваливают самый сложный тест

НЬЮ-ЙОРК, 8 июля — Американская лаборатория искусственного интеллекта Anthropic возглавила новый глобальный рейтинг безопасности ИИ, однако в отчете, опубликованном во вторник, предупреждается, что отрасль в целом все еще не справляется с «экзистенциальными» рисками, создаваемыми передовым ИИ.

Meta поднялась на две позиции и заняла четвертое место в рейтинге, тогда как xAI опустилась на три строчки до седьмого места, опередив китайскую DeepSeek и французскую Mistral, которые заняли последнее место.

Рейтинг был составлен американским аналитическим центром по безопасности ИИ Future of Life Institute, который оценил девять ведущих мировых компаний в сфере ИИ.

Семь исследователей и экспертов по управлению оценили компании, используя общедоступную информацию, а также данные, предоставленные самими фирмами.

Они оценили показатели по шести категориям: оценка рисков, текущий ущерб, рамки безопасности, экзистенциальная безопасность, управление и подотчетность, а также обмен информацией.

Ни одна компания не получила оценку «A» ни в одной из категорий.

Anthropic достигла наивысшего общего результата с оценкой «C+».

Mistral, впервые попавшая в рейтинг, оспорила эту оценку.

Отвечая на вопрос AFP о своем последнем месте, французская компания заявила, что методология отчета не подходит к ее подходу к разработке ИИ.

В отличие от таких конкурентов, как Anthropic, OpenAI и Google DeepMind, которые в основном разрабатывают закрытые системы ИИ, Mistral фокусируется на открытых моделях, которые пользователи могут скачивать и изменять.

«Меня очень разочаровало, что они заняли последнее место, особенно учитывая, что Европа действительно... была лидером в области безопасности ИИ», — сказал Макс Тегмарк, профессор Массачусетского технологического института и президент Future of Life Institute.

«Мы связывались много-много раз», — добавил Тегмарк, отметив, что Mistral не ответила на опрос организации.

По данным института, Alibaba, xAI и DeepSeek также отказались участвовать.

Три китайских разработчика ИИ, создающих открытые модели, также оказались в нижней половине списка: DeepSeek на пятом месте, Alibaba Cloud на шестом и Z.ai на восьмом.

«Сомнительные» практики

В отчете говорится, что несколько компаний, которые ранее обязались не использовать свои технологии в военных целях, впоследствии смягчили свои позиции.

В нем конкретно критикуется Anthropic за то, что было описано как «сомнительное военное сотрудничество».

Согласно различным сообщениям СМИ, правительство США использовало технологии Anthropic во время военных операций, связанных с Венесуэлой и Ираном, в течение прошлого года.

Компания также недавно была заблокирована Пентагоном из-за разногласий, связанных с безопасностью ИИ, хотя это ограничение позже было снято.

В отчете делается вывод, что все девять компаний остаются недостаточно подготовленными для решения «экзистенциальных» угроз, связанных с общим искусственным интеллектом (AGI), или системами ИИ, способными соответствовать человеческому уровню интеллекта.

Хотя исследователи признали, что «конструктивные попытки существуют», они заявили, что усилия всей отрасли остаются «совершенно недостаточными».

В отчете также подчеркивается обеспокоенность тем, что передовой ИИ может быть неправильно использован для проведения кибератак или выполнения задач, вредных для людей.

Anthropic недавно привлекла внимание после представления своей самой мощной на сегодняшний день модели ИИ — Mythos.

Компания из Сан-Франциско изначально сделала модель доступной только для небольшой группы доверенных организаций в апреле из-за опасений, что ее кибервозможности могут быть использованы злоумышленниками.

12 июня правительство США заблокировало Anthropic от выпуска Mythos для иностранных пользователей по соображениям национальной безопасности.

Администрация Трампа сняла это ограничение 30 июня. — AFP