Гейт правды

Гейт правды - правило в конвейере, по которому текст с цифрой или фактом без источника не проходит дальше. Вместо выдуманной цифры в текст встаёт метка «нужен факт», и материал не выходит, пока факт не найден или не убран.

Зачем это нужно. Нейросеть предсказывает слова, а не факты. Попросите её написать статью с цифрами, и цифры появятся: правдоподобные, ровные, уверенные и ничем не подтверждённые. Это не поломка, а свойство инструмента, у него есть своё название - галлюцинации. Под своим именем цена такой цифры высокая: одна выдумка, найденная читателем, обнуляет доверие ко всему, что вы написали до и после.

Практическое следствие: гейт должен стоять в машине, а не в памяти. «Я проверю перед публикацией» работает до первого вечера, когда проверять некогда. У меня правило записано в инструкцию агента, который пишет тексты: цифра берётся только из указанного файла или первоисточника, чужой факт идёт со ссылкой прямо в тексте, а если факта нет, ставится метка. Конвейер дополнительно смотрит, нет ли в тексте меток, и материал с меткой до публикатора не доходит. Один раз гейт сработал на чужом деле: сумму по судебному спору подтвердить не удалось, три источника не открылись, и сумму сняли, оставив только номер дела.

Что делать. Возле каждой цифры в своих текстах и отчётах держать ответ на вопрос «откуда это». Чужой факт - только со ссылкой на первоисточник, а не на пересказ. Расчётный пример помечать словами «пример расчётный», чтобы читатель не принял его за замер. И отдельно решить, какие задачи нейросети не отдаются вовсе, потому что цена выдумки там слишком высока: у меня таких три, и они разобраны в статье про три задачи, которые я не отдаю ИИ.