Приказ США об ограничении доступа к моделям ИИ Anthropic вызвал критику

НЬЮ-ЙОРК: Приказ американского правительства об отзыве наиболее мощных моделей искусственного интеллекта компании Anthropic вызвал волну критики как среди сторонников, так и среди противников регулирования ИИ.

В пятницу вечером базирующаяся в Сан-Франциско компания объявила, что Министерство торговли США приказало ей приостановить работу Mythos 5 и Fable 5 по соображениям «национальной безопасности», не предоставив дополнительных подробностей.

В отличие от Mythos 5, доступ к которой был открыт лишь для ограниченного круга партнёров, Fable 5 была оснащена усиленной защитой, призванной предотвратить серьёзные злоупотребления, — в первую очередь кибератаки или разработку химического и биологического оружия.

Однако Anthropic сообщила, что некая организация — чью личность компания не раскрыла — уведомила администрацию Трампа о том, что нашла способ обойти защитные механизмы, не позволяющие использовать Fable 5 для проведения кибератак.

Anthropic охарактеризовала брешь, обнаруженную этой сторонней платформой — которую несколько СМИ идентифицировали как Amazon, — как «незначительную», а выявленные программные уязвимости назвала «незначительными».

Директива распространялась только на доступ со стороны иностранных граждан, однако Anthropic заявила, что не имеет возможности разграничивать пользователей по национальному признаку и потому была вынуждена отключить свои модели.

Прямой запрет правительства на передовую модель ИИ, разработанную отечественной компанией, является беспрецедентным.

Китай блокирует доступ к наиболее мощным западным моделям ИИ и вводит ограничения для крупных отечественных ИИ-компаний, однако эти ограничения, как правило, встраиваются в модели до их выпуска.

«Импульсивное» решение

Предприниматель Мартин Варсавски заявил, что последствия этого приказа «огромны».

Любой стартап, «создающий передовые модели, находится на милости правительства», — написал он в X. — «Поэтому приказ наказывает не только Anthropic. Он меняет правила для всей отрасли».

Исследователь Гэри Маркус рассказал, что до пятничного объявления правительства видел гонку США и Китая в сфере ИИ как «ничью».

«Мне и в голову не приходило, что администрация Трампа способна подставить подножку усилиям США изнутри», — сказал Маркус. — «Но так и произошло».

Ряд наблюдателей полагает, что Anthropic несёт значительную долю ответственности за своё нынешнее положение: компания годами предупреждала о рисках, связанных с наиболее передовыми моделями ИИ.

В среду генеральный директор Anthropic Дарио Амодеи вновь призвал политиков «запустить медленный и громоздкий политический аппарат для работы с рисками и возможностями, которые будут нарастать удивительно быстро».

Ряд сторонников президента Трампа, ещё несколько недель назад решительно выступавших против регулирования ИИ — как и сама администрация Трампа, — попытались защитить эту директиву.

Среди них — влиятельный инвестор Марк Андриссен и бывший советник Белого дома по вопросам ИИ Дэвид Сакс.

Другие, однако, в том числе бывший советник Трампа по ИИ Дин Болл, обвинили их в интеллектуальной нечестности, напомнив, что они жёстко критиковали усилия по регулированию при бывшем президенте Джо Байдене.

Группа, выступающая за регулирование, — Americans for Responsible Innovation — заявила, что решения подобного масштаба не должны приниматься «импульсивно» или быть предметом «политического фаворитизма».

Anthropic в настоящее время находится в противостоянии с администрацией Трампа, которая расторгла все государственные контракты с компанией.

Многие наблюдатели согласны с тем, что ИИ вступил в новую эру, требующую большего участия государства, однако резко возражают против того, каким образом эти меры осуществляются.

«В нормально функционирующей администрации никто никогда не был бы застигнут врасплох такими действиями», — сказал Бен Мёрфи из Institute for Progress, аналитического центра, занимающегося развивающимися технологиями.

«Правительство просто попросило бы Anthropic провести дополнительное тестирование или добавить дополнительные защитные механизмы перед выпуском», — написал он в X.

Стремительное развитие ИИ и концентрация влияния в руках нескольких компаний застали правительства врасплох, заявила Мона Слоун, профессор Университета Вирджинии.

Это означает, что «вполне возможно, мы ещё увидим» введённые правительствами приостановки работы моделей ИИ, сказала она.