Нове розслідування стверджує, що федеральний уряд поспішає з впровадженням штучного інтелекту так само, як поспішав з хмарними обчисленнями десять років тому, і з тими ж структурними вразливостями, які досі існують.
Резюме
- Репортер ProPublica Рене Дадлі, спираючись на роки висвітлення питань федеральної кібербезпеки, окреслює три застережливі уроки, оскільки адміністрація Трампа підштовхує агентства до швидкого впровадження інструментів ШІ від OpenAI, Google та xAI за зниженими державними цінами
- Перший урок: так звані безкоштовні чи дешеві технологічні угоди зрештою прив'язують агентства; другий: програми нагляду, такі як FedRAMP, були знищені та не мають ресурсів для перевірки того, що вони схвалюють; третій: сторонні аудитори, які оцінюють постачальників ШІ, отримують оплату від тих самих постачальників
- Білий дім позиціонує впровадження ШІ як терміново необхідне та конкурентне, відтворюючи мову, яку адміністрація Обами використовувала для просування хмарних обчислень, перехід, який, як виявило розслідування ProPublica, був пронизаний провалами кібербезпеки
Рене Дадлі з ProPublica опублікувала 6 квітня розслідування, стверджуючи, що оскільки адміністрація Трампа заохочує федеральні агентства до швидкого впровадження ШІ від великих технологічних компаній, вона повторює патерни, які переслідували перехід Вашингтона до хмарних обчислень, де швидкість перемогла безпеку, нагляд був позбавлений фінансування, а уряд зрештою став глибоко залежним від підрядників, на яких мав мало впливу.
Білий дім позиціонує ШІ як імператив національної конкурентоспроможності. Агентства тепер можуть отримати доступ до ChatGPT від OpenAI за 1 долар, Gemini від Google за 47 центів на користувача та Grok від xAI за 42 центи. Формулювання, пише Дадлі, точно відображає мову, яку використовували, коли адміністрація Обами оголосила хмарні обчислення трансформаційним пріоритетом на початку 2010-х.
Урок перший: безкоштовного сиру не буває. Розслідування ProPublica виявило, що обіцянка Microsoft у 2021 році надати федеральному уряду послуги безпеки на 150 мільйонів доларів була на практиці механізмом прив'язки. Після того, як агентства прийняли безкоштовні оновлення, перехід до конкурента був би дорогим і руйнівним. "Це було успішним більше, ніж будь-хто з нас міг уявити", розповів ProPublica один із колишніх продавців Microsoft. Як повідомляв crypto.news, Microsoft і OpenAI з тих пір зіткнулися через умови власного партнерства у сфері ШІ, що сигналізує про те, наскільки проблемними можуть бути контракти великих технологічних компаній у сфері ШІ навіть між самими учасниками.
Урок другий: програми нагляду потребують реальних ресурсів. Федеральна програма управління ризиками та авторизації, відома як FedRAMP, була створена в 2011 році для перевірки послуг хмарних обчислень до того, як федеральним агентствам дозволялося їх використовувати. ProPublica виявила, що агентство виснажило FedRAMP протягом п'яти років, щоб отримати схвалення для великого хмарного продукту, незважаючи на серйозні застереження щодо кібербезпеки. Це було до DOGE. FedRAMP тепер заявляє, що працює "з абсолютним мінімумом допоміжного персоналу" та "обмеженим обслуговуванням клієнтів". Представник GSA захищав програму, заявляючи, що вона "працює з посиленими механізмами нагляду та підзвітності", але колишні співробітники розповіли ProPublica, що вона функціонує як формальність.
Урок третій: незалежні перевірки є лише відносно незалежними. Оскільки внутрішні можливості FedRAMP скоротилися, сторонні аудиторські фірми взяли на себе більше функцій перевірки. Ці фірми отримують оплату від тих самих хмарних компаній, які вони оцінюють. Агентства, часто з недостатньою кількістю персоналу, не мають можливості проводити власні ретельні перевірки і значною мірою покладаються на ці оцінки. Як зазначив crypto.news, більш широке занепокоєння серед спостерігачів полягає в тому, що уряди постійно повільніше регулюють трансформаційні технології, ніж компанії, які їх впроваджують.
Патерн, який Білий дім не вирішив
GSA визнала, що "витрати на використання ШІ можуть швидко зростати без належного моніторингу та контролю управління" і порадила агентствам встановлювати ліміти використання та переглядати звіти про споживання. Але базові структурні проблеми залишаються: недофінансовані органи нагляду, огляди, залежні від постачальників, та агентства з невеликим впливом, коли впровадження стає укоріненим.
Висновок Дадлі є конкретним: "Наслідки цього скорочення для федеральної кібербезпеки є далекосяжними", оскільки агентства приймають інструменти ШІ, які обробляють чутливі урядові дані в рамках тієї ж ослабленої структури нагляду, яка не змогла впоратися з хмарними обчисленнями.
Джерело: https://crypto.news/three-times-the-us-government-already-failed-at-tech/
