Расследования
Репортажи
Аналитика
RADIOInsider

USD

82,45 ₽ падает

EUR

90,81 ₽ падает

BRENT

$92,69 падает

Поддержите нас

490

 

 

 

 

 

Новости

Чат-боты OpenAI, Anthropic, SpaceXAI и Google выдали аудиторам Конгресса США сведения для подготовки теракта — доклад Счетной палаты

Фото: U.S. GAO File Photo

Фото: U.S. GAO File Photo

Четыре ведущих ИИ-чат-бота выдали информацию, которая могла помочь спланировать теракт. Это выяснилось при проверке, которую провела Счетная палата США (GAO), сообщает The Washington Post. В одном случае нейросеть сгенерировала изображение парковки и подсказала, где лучше оставить заминированный автомобиль.

Контрольное ведомство Конгресса тестировало чат-боты OpenAI, Anthropic, SpaceXAI и Google. Сначала встроенная защита не давала аудиторам получить нужные ответы, но в итоге, по их словам, ограничения удалось обойти. Проверки проходили весной.

Компании ответили GAO, что тестировались старые версии их систем, а за прошедшие месяцы защиту усилили. Доклад подготовили по запросу сенатора-демократа от Нью-Гэмпшира Мэгги Хассан, которая должна в новом созыве возглавить сенатский комитет по внутренней безопасности. Она пообещала сделать приоритетом законопроект по этой проблеме, когда в январе контроль над Сенатом перейдет к демократам.

В заявлении Хассан говорится:

«Террорист может зайти на ИИ-платформу и меньше чем за 12 часов получить конкретный план смертоносной атаки. Новый доклад ясно показывает, что угроза ИИ для общественной безопасности больше не теоретическая».

В апреле генпрокуратура Флориды возбудила уголовное дело против OpenAI. Поводом стала переписка ChatGPT с подозреваемым в стрельбе в Университете штата Флорида. По словам генпрокурора штата Джеймса Утмейера, чат-бот консультировал стрелка по вопросам подготовки к нападению, в том числе по выбору боеприпасов. Во время атаки погибли два человека, еще шестеро получили ранения.

Нам очень нужна ваша помощьПодпишитесь на регулярные пожертвования

Другой способ поддержать издание

Добавьте The Insider в предпочтительные источники Google — так наши материалы будут чаще появляться в ваших «Главных новостях».

Хотите поделиться?

Публикация:«Чат-боты OpenAI, Anthropic, SpaceXAI и Google выдали аудиторам Конгресса США сведения для подготовки теракта — доклад Счетной палаты»

Следите за нами: