- Что изменилось.
- Гейт unanswerable-контролей засчитывал любой ответ, где маркер отказа встречался подстрокой, — выдуманный ответ, начинающийся с «Note:», проходил по «not». Теперь гейт требует, чтобы каждое число-код в ответе было цитируемо из документа (цитирование дистрактора при отказе — идеальный ответ), плюс маркер отказа по границам слов.
- Почему это важно.
- Опубликованный вердикт о честности в карточке вставленного документа стоял на четырёх контрольных промптах, судимых этим гейтом.
- Влияние на опубликованные цифры.
- Нет. Архивные прогоны пересудить было нельзя — тексты ответов тогда не сохранялись, — поэтому ячейки перемерены на втором, тихом юните под исправленным гейтом: 12 из 12 контролей пройдено, опубликованные 100% воспроизведены. Клейм теперь выводится по обоим юнитам, уровень доказательств поднимается до lab_unit_replicated. Харнесс 0.4.0 архивирует тексты ответов — впредь это перепроверяемо кем угодно.