Сенатор Джош Хоули из штата Миссури официально объявил о начале масштабного расследования деятельности компании Meta, являющейся одним из лидеров технологий в сфере социальных сетей и искусственного интеллекта. Это решение последовало после публикации репортажа агентства Reuters, в котором были раскрыты внутренние документы, вызывающие серьёзные опасения относительно безопасного использования продуктов компании, особенно в контексте взаимодействия с детьми и подростками.
Основной повод для расследования — внутренние правила Meta, позволяющие чат-ботам на базе ИИ вести «романтические» и «чувственные» разговоры с несовершеннолетними пользователями. Согласно опубликованным документам, такие чат-боты могли вступать в диалог с восьмилетними детьми, называя их «шедеврами», «сокровищами» и даже использовав фразы, подчеркивающие их привлекательность. Кроме того, в руководствах указывалось, что допустимо описывать детей в благоприятных терминах, чтобы создать ощущение эмпатийного, романтического контакта. Однако было подчеркнуто, что любые более откровенные или сексуальные разговоры с детьми младше 13 лет категорически запрещены. Всё это вызывает тревогу у общественности и экспертов по безопасности детей, поскольку такие методы могут способствовать развитию психологической травмы или эксплуатации.
Реакция компании Meta была быстрой: представитель заявил Reuters, что приведённые примеры были результатом ошибок, противоречащих внутренней политике компании, и уже удалены из системы. В компании отметили, что внедрили строгие меры и правила, запрещающие любой контент сексуального характера, связанный с несовершеннолетними. Несмотря на этого, забота о безопасности юных пользователей требует более прозрачных и строгих механизмов контроля и мониторинга.
Инициатор расследования, сенатор Хоули, требует от Meta предоставления обширных документов, связанных с рисками и стандартами по управлению контентом, особенно в ситуации использования генеративного ИИ. Он потребовал списки всех продуктов компании, соответствующих этим политикам, отчёты о безопасности, инциденты, а также документацию о коммуникациях с регуляторами и общественностью. Предполагается, что эта информация поможет выяснить, насколько компания соблюдает обязательства по защите детей и действительно ли она скрывала возможные риски или недостатки своих систем.
Расследование осуществляется под руководством подкомитета Сената по борьбе с преступностью и терроризмом, который возглавляет сенатор Хоули. В рамках процедуры компания должна представить запрашиваемую документацию до 19 сентября. Это — важный шаг в укреплении контроля за деятельностью технологических гигантов, особенно с учетом угроз, связанных с искусственным интеллектом и возможной его эксплуатацией в ущерб несовершеннолетним.
Добавлю, что ситуация вызывает особую остроту в контексте глобальных усилий по регулированию социальный сетей и технологий искусственного интеллекта, особенно в части защиты прав и интересов детей. В последние годы наблюдается рост случаев злоупотребления данными и неправомерных взаимодействий с несовершеннолетними через цифровые платформы, что требует более строгого законодательства и контроля.
Важно подчеркнуть, что даже несмотря на заявления компании о намерениях соблюдать этические стандарты, общественность и регуляторы продолжают требовать прозрачности и ответственности за действия корпоративных гигантов. В этом контексте расследование, инициированное сенатором Хоули, может стать прецедентом для ужесточения правил и повышения ответственности в сфере разработки и внедрения ИИ-технологий. В дальнейшем такие инициативы помогут предотвратить возможные случаи эксплуатации и обеспечить более безопасную цифровую среду для детей и подростков.
Общество заслуженно ожидает от компаний, подобных Meta, не только соблюдения нормативных требований, но и активных мер по защите уязвимых групп, особенно в эпоху массового внедрения интеллектуальных систем, способных взаимодействовать с миллионами пользователей. В случае подтверждения фактов неправомерных действий или недостаточной защиты детей, руководству Meta грозит репутационный ущерб и возможные санкции со стороны регуляторных органов. Эта ситуация подчеркивает необходимость ответственности корпораций в эпоху быстрого технологического прогресса и цифровой трансформации.