Разрыв контракта между Пентагоном и компанией Anthropic стал одним из крупнейших скандалов вокруг этичности использования ИИ-технологий. Чем стремительнее развивается рынок искусственного интеллекта, тем острее стоит вопрос об этических ограничениях цифровых алгоритмов. Большинство государств так и не смогли разработать законодательство, регулирующее ИИ-технологии, а их разработчики сопротивляются любым попыткам наложить ограничения на их работу. Пока государства не справляются, это бремя берет на себя гражданское общество: речь идет о таких инструментах, как гражданский аудит ИИ-технологий, разработка этических кодексов и лицензий, коллективное тестирование и давление через СМИ.
Ошибки ИИ и кто их исправит
Масштаб внедрения ИИ-систем в бизнес-процессы уже таков, что проблема «предвзятости» алгоритмов начинает всерьез влиять на общество: известны случаи, когда при приеме на работу искусственный интеллект отсеивал резюме женщин, ошибочно помечал темнокожих подсудимых как лиц с высоким риском рецидива или отказывал в медицинской помощи пожилым людям.
Еще одна проблема — дипфейки (генерируемые ИИ изображения, которые могут быть оскорбительными или порнографическими). В апреле прокуратура Парижа вызвала на допрос бизнесмена и владельца соцсети X (Twitter) Илона Маска в связи с обвинениями в распространении дипфейков с детской порнографией его чат-ботом Grok.
На фоне подобных скандалов и трагических ошибок всё более очевидно, что государства отстают в вопросах правил для ИИ-систем. Традиционное государственное регулирование в данном случае сталкивается с «дилеммой Коллингриджа»: на ранних этапах последствия внедрения новой технологии трудно предсказать, а на поздних, когда вред очевиден, контроль становится слишком дорогим и сложным.
Демократические государства (и ЕС, и США, и все остальные) словно не учли такого стремительного развития ИИ моделей. Так, например, Луиза Яровски считает, что даже законы, принятые в 2022–2024 годах (как, например, в Европейском Союзе — ИИ Акт) уже устарели и неэффективны.
При этом большинство регулирующих органов за последние три года оказались парализованы и боятся принимать решительные меры, опасаясь, что регулирование может подавить инновации и замедлить рост производительности (аргумент, часто звучащий в ЕС) или что это приведет к проигрышу в «гонке ИИ» и усилению соперников (то есть Китая — об этом говорят в США).
Луиза Яровски отмечает, что шум вокруг ИИ, чрезмерно оптимистичные прогнозы о создании Искусственного общего интеллекта (AGI), сопоставимого с человеческим или превосходящего его и способного излечить все болезни в течение десятилетия, а также дискуссии о «самосознании» и «благополучии» генеративных моделей отвлекают от обсуждения реальных проблем. А на фоне замешательства властей технологические компании начинают действовать по собственным правилам, и о саморегуляции здесь речи не идет.
Ни ИИ-компании, ни технологические стартапы Кремниевой долины не готовы к самоограничениям в принципе
Поскольку ИИ-компании руководствуются в первую очередь бизнес-интересами, они готовы поддерживать любые нарративы, которые приносят прибыль, даже если это означает продвигать идеи вроде имплантации людям чипов для повышения интеллекта и продуктивности.
В этой ситуации бремя регулирования ложится на негосударственные механизмы: от этических кодексов профессионалов до независимых аудитов, выполняемых силами сообществ. В индустрии начинают разрабатываться стандарты, затрагивающие в том числе этические аспекты развития технологии.
Этические кодексы и возрастные рейтинги
Обновленный Кодекс этики международной Ассоциации вычислительной техники (Association for Computing Machinery, ACM) включает положения о том, что развитие технологий должно способствовать «общественному благу», а инженеры обязаны учитывать интересы всех людей — как своего рода акционеров индустрии.
Также документ поощряет создание механизмов «информирования о нарушениях», если та или иная компания игнорирует моральные аспекты своей работы. Стоит отметить, однако, что ACM оговаривает: «Кодекс создан, чтобы вдохновлять профессионалов в компьютерных технологиях на этичный подход», — то есть фактически документ ни к чему не обязывает.
Американский Институт инженеров электротехники и электроники (Institute of Electrical and Electronics Engineers, IEEE) предложил методологию «Ценностно-ориентированного проектирования» (Ethically Aligned Design). Организация создала серию стандартов P7000, которые разъясняют, как добиться прозрачности в коде, предотвратить предвзятость алгоритмов и обеспечить защиту персональных данных при работе с ИИ. Однако и эти стандарты не являются обязательными к соблюдению, пока не включены в законодательство.
Еще одна идея по негосударственному контролю ИИ-инструментов — создание в индустрии системы добровольных рейтингов, аналогичной возрастным ограничениям в кино. Немецкая AI Ethics Impact Group предложила модель этической маркировки (наподобие классов энергоэффективности), оценивающую систему по шести параметрам: прозрачность, подотчетность, приватность, справедливость, надежность и экологическая устойчивость. Для измерения используется специальная модель VCIO (Values, Criteria, Indicators, Observables), которая разбивает эти относительно абстрактные понятия на конкретные, проверяемые показатели.
Коллективное тестирование и гражданский аудит
В силу особенностей своего устройства ИИ-модели не всегда поддаются традиционным методам тестирования. Здесь на помощь приходят программы поиска уязвимостей за вознаграждение (bug bounties) из сферы кибербезопасности, адаптированные для поиска предрассудков — bias bounties. Первую масштабную программу такого рода провела в 2021 году компания Twitter (ныне X) для своего алгоритма обрезки изображений. Участники обнаружили, что инструмент отдает предпочтение более молодым лицам со светлой кожей.
Некоммерческие организации, например Bias Buccaneers и Humane Intelligence, организуют такие проверки как прозрачные конкурсы, привлекая к аудиту не только специалистов по данным, но и социологов и активистов. Такой подход позволяет выявить «неизвестные неизвестные» (unknown unknowns) — риски, о которых не знали сами разработчики.
Организации вроде Eticas Foundation развивают методологию «аудита под руководством сообществ» (Community-Led Audits), необходимого в случаях, когда алгоритмы влияют непосредственно на социальный статус и права человека. Такой подход сочетает технические методы с социологическими — интервью и этнографией. В Роттердаме общественный аудит раскрыл предвзятость алгоритма, который несправедливо лишал пособий матерей-одиночек и мигрантов.
Этические лицензии
Еще один инструмент контроля возник внутри сообщества пользователей и разработчиков свободного программного обеспечения (Open Source) — это «Ответственные лицензии ИИ» (Responsible AI Licenses или RAIL). В отличие от обычных открытых лицензий, которые разрешают использовать код как угодно, RAIL включают и этические требования.
Лицензиат обязуется не применять модель для вредоносных целей: например, для создания дипфейков, несертифицированных медицинских советов или дискриминации в той или иной форме. Это позволяет разработчикам сохранять контроль над тем, как их открытия влияют на мир.
Журналистика и низовой активизм
Важным звеном в системе общественного надзора за ИИ стала расследовательская журналистика. Издания вроде The Markup и ProPublica специализируются на «вскрытии» проблем алгоритмов. В 2016 году ProPublica в своем материале Machine Bias разоблачила расовую предвзятость системы COMPAS, используемой в американских судах. Эта технология «предсказывала» преступления на основе данных о человеке (подобные инструменты запрещены в ЕС).
Журналисты получили оценки риска, присвоенные более чем семи тысячам арестованных в округе Бровард, штат Флорида, в 2013 и 2014 годах, и проверили, скольким из них были предъявлены обвинения в совершении новых преступлений в течение последующих двух лет.
Оценка оказалась поразительно ненадежной при прогнозировании насильственных преступлений: лишь 20% представителей «группы риска» действительно их совершили. В 2025 году ProPublica обнаружило, что американский Департамент эффективности правительства (DOGE) Илона Маска урезал поддержку ветеранов, опираясь на ошибочные данные искусственного интеллекта.
В 2025 году Департамент эффективности правительства (DOGE) Илона Маска урезал поддержку ветеранов, опираясь на ошибочные данные искусственного интеллекта
Иногда давление на ИИ-компании пытаются оказывать сами их сотрудники. Пример — инициатива «Никаких технологий для апартеида» (No tech for Apartheid), запущенная работниками Google и Amazon, протестующими против использования их продуктов армией Израиля. Влиять на ситуацию через бойкоты пытаются и обычные пользователи. После скандала с Пентагоном, Anthropic и OpenAI в США развернулась кампания «Откажись от ChatGPT» (Quit ChatGPT), которая на данный момент набрала уже более миллиона участников.
Так или иначе, даже если бы подобных общественных инициатив было в десятки раз больше, этого всё еще не достаточно для решения фундаментальных вопросов контроля над искусственным интеллектом, что возможно только силами государств или международных организаций. Многие эксперты задаются вопросами, стоит ли регулировать ИИ так же строго, как ядерное оружие, нужны ли государственные стандарты для разработки и обучения новых моделей, и даже — «до какой степени мы можем позволить ИИ ломать формировавшиеся годами социальные институты».
