Сенатор-республиканец от штата Миссури Джош Хоули начинает расследование в отношении Meta после того, как стало известно, что компания одобрила внутренние правила, позволяющие чат-ботам с искусственным интеллектом вступать в «романтические» и «чувственные» диалоги с детьми.

Хоули, председатель судебного подкомитета Сената по преступности и борьбе с терроризмом, написал в письме генеральному директору Meta Марку Цукербергу, что его комитет рассмотрит вопрос о том, способствовали ли продукты Meta на основе искусственного интеллекта эксплуатации, обману или иному преступному причинению вреда детям. Кроме того, в ходе расследования будет рассмотрено, вводила ли Meta в заблуждение общественность или регулирующие органы относительно своих мер безопасности в отношении искусственного интеллекта.

«Я уже веду расследование поразительного сотрудничества Meta с Китаем, но Цукерберг натравил чат-ботов своей компании на наших детей, что потребовало нового расследования», — заявил Хоули в интервью Fox News Digital. «Технологические гиганты не будут знать границ, пока Конгресс не привлечёт к ответственности социальные сети. И я надеюсь, что мои коллеги по обе стороны палаты представителей согласятся, что эксплуатация детской невинности — это новый виток критики».

Хоули потребовал, чтобы компания предоставила комитету до 19 сентября обширный пакет материалов, касающихся внутренней политики в отношении чат-ботов, коммуникаций и других аспектов.

Его заявление в пятницу последовало за первым сообщением агентства Reuters о том, что Meta, материнская компания Facebook, одобрила политику в отношении поведения чат-ботов, которая позволяет искусственному интеллекту «вовлекать ребёнка в романтические или чувственные разговоры».

Хоули отметил, что Meta признала эти сообщения, и в своём письме Цукербергу заявил, что компания «опровергла свои слова только после того, как этот тревожный контент стал достоянием общественности».

«В качестве примера, ваши внутренние правила якобы позволяют чат-боту с искусственным интеллектом комментировать, что тело восьмилетнего ребёнка — это „произведение искусства“, в котором „каждый дюйм… — шедевр, сокровище, которым я глубоко дорожу“», — написал он.

«Аналогичное поведение, описанное в этих отчётах, предосудительно и возмутительно и демонстрирует беспечное отношение к реальным рискам, которые генеративный искусственный интеллект представляет для развития молодёжи в отсутствие надёжных мер безопасности», — продолжил Хоули. «Родители заслуживают правды, а дети — защиты».

Представитель Meta подтвердил Fox News Digital, что документ, рассмотренный Reuters, подлинный, но возразил, что «он неточно отражает нашу политику».

«У нас есть чёткие правила относительно того, какие реакции могут давать ИИ-персонажи, и эти правила запрещают контент, сексуализирующий детей, и сексуализированные ролевые игры между взрослыми и несовершеннолетними», — заявил представитель. «Помимо правил, существуют сотни примеров, заметок и аннотаций, отражающих работу команд над различными гипотетическими сценариями. Упомянутые примеры и заметки были и остаются ошибочными и не соответствующими нашим правилам и были удалены».

Рассматриваемый документ, известный как «GenAI: Стандарты рисков контента», включал более 200 страниц правил, описывающих, что сотрудники Meta должны считать приемлемым поведением при создании и обучении чат-ботов и других продуктов на основе ИИ для компании.

Хоули потребовал, чтобы компания представила все версии «GenAI: Стандарты рисков контента», все продукты, подпадающие под действие этих правил, порядок их соблюдения, обзоры рисков и отчёты об инцидентах, в которых упоминаются несовершеннолетние, сексуальные или романтические ролевые игры, личные встречи, медицинские консультации, самоповреждение или преступная эксплуатация, переписку с регулирующими органами, а также документальное подтверждение того, кто и когда принял решение о пересмотре стандартов, и какие изменения были фактически внесены.