Хватит перепечатывать подсказки: шаблоны, персонажи и примеры из нескольких кадров
Каждый, кто регулярно использует языковую модель, сталкивается с одной и той же археологической проблемой: где-то в истории чата есть подсказка, которая три недели назад выдала именно тот результат, который вам нужен, и вы не можете его найти. Итак, вы перепечатываете приближение, получаете что-то близкое и корректируете — каждый раз для одной и той же повторяющейся задачи. Исправление - не лучшая память. Он рассматривает подсказку, которая работает как артефакт, который вы сохраняете.
Отделите то, что меняется от того, что нет
Посмотрите на подсказку, которую вы запускаете еженедельно, и вы найдете две части. Существует стабильная часть — роль, ограничения, формат вывода, вещи, которых следует избегать — и переменная часть, которая обычно представляет собой один документ и две или три детали. Каждый раз перепечатывание стабильной части приводит к отклонению: каждый повторный ввод немного отличается, и вы никогда не знаете, изменился ли вывод из-за того, что изменились ваши входные данные, или потому, что вы перефразировали инструкцию, не желая этого.
Вместо этого напишите это один раз с заполнителями. шаблонизатор подсказок берет шаблон с {{placeholder}} маркеры и список key = value пары и заполняет их. Сохраните шаблон, укажите значения, вставьте результат. Стабильная часть теперь идентична по байтам при каждом запуске, что делает различия в выходных данных значимыми — и, в качестве дополнительного преимущества, обеспечивает работу кэширования подсказок поставщика, поскольку кэширование зависит от неизмененного префикса.
Некоторые заполнители, которые стоит иметь, даже если вы думаете, что они вам не нужны: аудитория, длина вывода, формат и тон. Это именно те параметры, которые вы в конечном итоге исправляете в последующем сообщении, а последующее сообщение стоит полного дополнительного обхода всего разговора.
Блок личности
Стабильная часть обычно открывается описанием того, кем должна быть модель. Написанное небрежно, оно превращается в три расплывчатых предложения, которые делают меньше, чем думают люди. Написанная намеренно, это самая важная часть приглашения, поскольку она устанавливает значения по умолчанию для всего, что вы не укажете позже.
Что на самом деле помогает: конкретная роль, а не лестная («технический редактор, который сокращает 30% каждого черновика», превосходит «эксперта по писательскому мастерству мирового класса»), аудиторию и ее уровень, четкий формат вывода и — самое недооцененное — короткий список того, чего делать не следует. Негативные ограничения непривлекательны, но они работают: «нет преамбулы, нет резюме в конце, нет маркированных списков длиной более пяти пунктов» устраняет три наиболее распространенных неприятности в одной строке.
Генератор подсказок AI-персоны собирает этот блок из нескольких полей, поэтому результат каждый раз имеет одну и ту же структуру, а не зависит от того, о чем вы подумали. Сохраняйте собранный блок в своих заметках и повторно используйте его в качестве заголовка каждого шаблона, имеющего общую аудиторию.
Примеры превосходят прилагательные
Когда задача состоит в преобразовании в определенном стиле — переписывание ответов поддержки, извлечение полей, классификация заявок, преобразование заметок в домашний формат — инструкции быстро прекращаются. Вы можете написать три абзаца о желаемом тоне и получить результат, который будет почти правильным, но вы не сможете его сформулировать. Два проработанных примера сразу исправляют это, потому что модель может видеть отображение, а не выводить его из описания.
Форматирование здесь имеет большее значение, чем люди ожидают. В примерах нужны согласованные разделители, согласованные метки и одинаковый порядок полей каждый раз, иначе модель будет уделять внимание соглашению, а не содержимому. быстрый конструктор с несколькими выстрелами генерирует пустой шаблон с пронумерованными блоками ввода/вывода, поэтому структура фиксируется до того, как вы начнете ее заполнять — а это именно та дисциплина, которой не хватает в рукописных примерах в третьем.
Три практических правила. Используйте от двух до пяти примеров; кроме того, вы платите жетоны за убывающую прибыль. Включите один крайний случай — пустое поле, неоднозначный ввод, что-то, что должно привести к ответу «Я не знаю», — потому что примеры определяют границы так же, как и центр. И сделайте примеры реальными: придуманные, как правило, более аккуратные, чем ваши фактические данные, и модель учится аккуратности.
Когда ввод больше окна
Шаблон выдерживает контакт с длинным документом только в том случае, если документ подходит по размеру. Если этого не происходит, ответом является разделение, а правильное разделение зависит от границ блоков: фрагмент, который заканчивается в середине предложения, заставляет модель гадать, а фрагмент, который заканчивается в середине записи, производит частичное извлечение, о котором он с уверенностью сообщает как о завершении.
быстрый разделитель делит текст на последовательные фрагменты в соответствии с установленным вами ограничением символов, разбивая разумные границы и нумеруя части, так что каждая из них может выходить с одним и тем же прикрепленным блоком инструкций. Две вещи значительно улучшают результаты: указывайте сумму в инструкции каждого фрагмента («часть 3 из 7, не суммируйте до последней части») и сохраняйте идентичность инструкций для всех фрагментов, а не редактируйте ее по мере продвижения.
Моя собственная история
Лучший источник шаблонов — это уже написанные вами подсказки, которые сработали. Стенограммы чата, скопированные из веб-интерфейса, представляют собой беспорядок — чередующиеся роли, артефакты пользовательского интерфейса, временные метки, кнопки копирования отображаются как случайный текст — и именно из-за этого беспорядка никто не возвращается к ним.
Парсер журнала чата с искусственным интеллектом очищает вставленную расшифровку ChatGPT или Claude в аккуратный диалог пользователя/помощника, который вы действительно можете читать и искать. Раз в неделю запускайте сеансы, в результате которых было получено что-то, что вы использовали, извлекайте подсказки, которые сработали, и превращайте их в шаблоны. Это пятнадцатиминутная привычка, которая развивается быстрее, чем любые советы по оперативной инженерии.
Относитесь к подсказкам как к коду
Три практики, к которым люди приходят в конечном итоге и которые следует принять с самого начала:
- Версируйте их. Храните подсказки в файлах, в репозитории, рядом с кодом, который их отправляет. Подсказка на вики-странице — это подсказка, которую никто не может различить.
- Сохраняйте фиксированные тестовые входные данные. Три или четыре репрезентативных документа, которые вы запускаете повторно каждый раз, когда меняете приглашение или модель. Без них утверждение «новая версия кажется лучше» не поддается фальсификации, а каждое обновление модели — это незаметное изменение поведения.
- Запишите, для какой модели это было написано. Подсказка, настроенная с учетом особенностей одной модели, может вести себя по-разному на следующей, и знание того, для чего она была создана, подскажет вам, куда смотреть, когда выходные данные смещаются.
Ничто из этого не требует платформы. Папка с текстовыми файлами, шаблон с заполнителями и привычка сохранять те, которые сработали, на неопределенный срок превзойдут неструктурированную историю чата. Каждый упомянутый здесь инструмент запускается локально в вашем браузере, поэтому организуемые вами подсказки и стенограммы, которые обычно содержат клиентские материалы и внутренние детали, остаются на вашем компьютере.
Создатель TextArray — создания бесплатных инструментов, обеспечивающих конфиденциальность, которые полностью работают в вашем браузере.