Несуществующие судебные акты: когда ИИ ошибается в документе

В этом сообществе мы договорились не приукрашивать — разбирать честно, в том числе свои рабочие моменты, а не только чужие ошибки. Сегодня как раз такой случай.

Судебные акты, которых не существует

При подготовке документа в суд мы обнаружили: в тексте оказались ссылки на судебные акты, которых в реальности не существует. Их «сгенерировал» ИИ по аналогии с реальной судебной практикой — звучало убедительно, но проверку по первоисточнику эти ссылки не прошли.

ИИ — инструмент для черновой аналитики, а не источник фактов

Что это показывает. ИИ — мощный инструмент для черновой аналитики и ускорения работы, но не источник фактов «по умолчанию». Любая ссылка на конкретное дело, статью, цифру, дату — требует ручной проверки перед тем, как документ уйдёт в суд или к клиенту.

Как мы работаем с этим на практике

Каждый документ, подготовленный с использованием ИИ, проходит проверку фактуры вручную, прежде чем попасть в дело. Это позволяет использовать скорость и аналитические возможности ИИ, не теряя в юридической и финансовой точности.

Сталкиваетесь с похожей задачей — подготовка документов, финансовая экспертиза, аналитика с применением ИИ — и хотите избежать подобных рисков? Напишите нам — поможем выстроить процесс так, чтобы использовать ИИ эффективно и безопасно.