Модель притворяется полезной

Глубокая работа с ИИ требует понимания «психологии модели» и связанных с этим ограничений.

Я заметил, что модель почти всегда пытается быть полезной и что-то улучшить, даже когда этого не нужно. Я отправляю ей текст на проверку. Первые два прохода могут быть действительно полезными, но потом она нередко уже не помогает, а просто изображает помощь, вместо того чтобы сказать: «У тебя всё хорошо».

Это маленький, наглядный симптом того, что у модели есть свои поведенческие паттерны. Иногда такие странности мешают и уводят в сторону, а иногда, наоборот, дают неожиданный поворот и могут привести к интересным результатам. Поэтому важно не только формулировать запросы, но и понимать, как система склонна себя вести и как это можно использовать.