Число судебных дел с использованием ИИ выросло на 40%: мошенники используют дипфейки, а граждане оспаривают штрафы

За последние четыре года количество судебных дел, связанных с использованием искусственного интеллекта (ИИ), выросло на 39%. Если в 2021 году таких дел было всего 112, то к 2024 году их число достигло 292. Основными регионами, где рассматриваются подобные дела, стали Москва, Московская область, Санкт-Петербург и Свердловская область.

Как мошенники используют ИИ

Злоумышленники активно применяют технологии ИИ для создания дипфейков, подделки документов и синтеза голосов. Например, в 2024 году певица Лариса Долина стала жертвой мошенников, которые сгенерировали видео с ее участием для получения кредита на 50 млн рублей. Также участились случаи телефонного мошенничества, где преступники имитируют голоса близких людей жертвы.

Граждане против ИИ

Граждане всё чаще оспаривают решения, принятые с использованием ИИ. Это касается ошибок чат-ботов, автоматизированных систем скоринга в банках и штрафов, выписанных камерами с распознаванием. За последние четыре года общая сумма требований по таким делам составила почти 2 млрд рублей.

Основные категории дел

Гражданские дела (59%): споры о правах на контент, созданный нейросетями, и ошибки автоматизированных систем.
Уголовные дела (12%): мошенничество с использованием дипфейков, подделка документов и незаконное получение кредитов.
Административные дела: обжалование штрафов и споры о законности использования систем распознавания.

Эксперты предупреждают

По мнению аналитиков, текущая статистика — лишь «верхушка айсберга». Многие случаи использования ИИ в противоправных целях остаются невыявленными из-за недостаточного законодательного регулирования. К 2030 году доля дел, связанных с защитой интеллектуальной собственности, может вырасти до 45–50%, а число административных правонарушений — до 25–30%.

Что дальше?

С развитием технологий ИИ мошеннические схемы становятся всё более изощренными. Эксперты призывают усилить меры кибербезопасности и ускорить разработку законодательных норм, регулирующих использование ИИ.

Несмотря на стремительное внедрение искусственного интеллекта в различные сферы жизни, до сих пор отсутствуют эффективные механизмы, обеспечивающие доверие к этим технологиям. Это становится одной из главных причин роста судебных дел, связанных с ИИ, и создает серьезные риски для общества, бизнеса и государства.

https://iz.ru/1853700/iana-shturma-valeriia-mishina/golosovie-svyazi-chislo-del-ob-ispolzovanii-ii-v...

Назад к списку