Иллюзия участия в AI-инструментах: как мы теряем пользователя внутри собственного продукта
Мы в Кэмпе уже более 6 лет работаем над AI-инструментами для образования и фиксируем устойчивый эффект: пользователь воспринимает результат генерации как «свой», даже если его реальное участие в процессе было минимальным.
При этом проблема не в том, что AI делает слишком много, а в том, что пользователь перестает понимать, что именно он сделал внутри процесса генерации самостоятельно. Это не поведенческая особенность аудитории, а продуктовая проблема, которая напрямую влияет на то, чему пользователь реально учится и как он закрепляет знания.
В этой статье мы разберем этот эффект как продуктовую проблему: откуда берется ощущение «я сделал сам», как оно связано с архитектурой AI-интерфейсов и как вернуть пользователя в процесс, а не просто ускорять результат.
Эффект ложного авторства
Мы видим повторяющийся паттерн: пользователь переоценивает свой вклад в AI-результат.
Константин Петров, СЕО Кэмпа, это объясняет так: «Пользователь проходит наш флоу генерации, и даже если его участие минимальное, например, он поверхностно посмотрел источники, пару раз что-то поправил в AI-редакторе, — у него всё равно возникает ощущение, что он сделал всё сам».
Этот эффект проявляется стабильно — вне зависимости от сложности задачи или уровня пользователя. Сейчас для многих AI — это такой помогающий инструмент, который помогает быстро получить результат. Даже при поверхностном взаимодействии с системой возникает ощущение полного авторства результата.
Мы придерживаемся позиции, что если AI-инструменты встраиваются в образование, то они не должны конфликтовать с существующей системой, а наоборот — дополнять её и закрывать те задачи, под которые она не успевает адаптироваться. Поэтому мы задумали узнать, как снизить эффект ложного авторства через AI-интерфейс.
Виновата скрытая архитектура AI-интерфейса
Причина лежала в устройстве работы типичного AI-пайплайна. Наши R&D-специалисты подтверждают: «У нас был пайплайн, через который проходила идея пользователя. И каждый шаг отличался только входными и выходными данными в то время, как человек не участвовал в процессе создания результата».
Пользователь мог вставить текст, ссылку, файл — и Кэмп всё это обрабатывал. Но фактически пользователь не взаимодействовал с процессом и видел только вход и итог.
В результате интерфейс не фиксировал участие пользователя в процессе принятия решений. Поэтому мозг человека заполнял этот пробел самостоятельно идеей: «Если результат получен после нескольких действий, значит это я их и сделал».
Проблема усиливалась, когда интерфейс не вовлекал пользователя в процесс:
есть только одна кнопка «сгенерировать»;
отсутствуют промежуточные шаги;
нет редактирования структуры до финального результата;
нет явных точек выбора между предлагаемыми вариантами.
ТЗ дизайнеру: добавить примеры интерфейсов, не вовлекающих пользователя
Вклад пользователя как часть качества результата
В образовательных AI-продуктах результат нельзя рассматривать отдельно от процесса его получения.
Если убрать пользователя из процесса, то исчезнет его обучение, осознанность и возможность закрепления знаний. Даже многие преподаватели уже сами начинают учить студентов, как пользоваться нейросетями. В более широком контексте образования сейчас остаётся открытым вопрос: как именно преподавателю и студенту корректно взаимодействовать с AI-инструментами. Единого ответа на него пока нет — и это скорее область активного поиска, чем устоявшаяся практика.
В образовательных сценариях пользователь чаще оптимизирует не обучение, а результат. AI ускоряет получение результата, но не гарантирует, что пользователь пройдет путь понимания.
Отдельно здесь возникает более сложный вопрос, который мы пока не можем напрямую измерить: проявляет ли пользователь критическое мышление при работе с AI-инструментом. Мы как платформа не можем это полностью контролировать, но рассматриваем это как одну из ключевых задач продукта — не просто давать результат, а способствовать тому, чтобы пользователь осмыслял процесс его получения.
Дополнительно возникает базовая продуктовая дилемма: с одной стороны, AI должен быть максимально простым, минимизировать количество действий и скрывать сложность. Но с другой стороны, чем больше контроля — тем выше когнитивная нагрузка при работе с ней, но ниже иллюзия «я всё сделал сам». Упрощение интерфейса напрямую снижает видимость участия пользователя в процессе.
Как мы встроили вклад пользователя в интерфейс
Для решения проблемы мы начали пересобирать UX-интерфейс так, чтобы участие пользователя становилось неизбежным, и он всегда мог повлиять на результат.
Константин Петров, СЕО Кэмпа: «Наша концепция — дать пользователю заготовку, которую он может использовать как основу. Но дальше он сам должен направить результат: определить, что здесь его, как это будет развиваться и к чему в итоге приведёт».
Поэтому мы добавили в интерфейс Кэмпа новые функции, и сценарий пользователя поменялся:
пользователь не просто запускает генерацию документа, а сначала загружает входные данные и выбирает тип результата (презентация, конспект, структура и др.);
пользователь принимает решения о структуре и редактирует её: добавляет, удаляет, переименовывает блоки, меняет порядок секций перед генерацией финала;
пользователь настраивает параметры результата — выбирает аудиторию, уровень детализации и определяет формат подачи;
пользователь корректирует результат до финальной версии через встроенный AI-редактор (переформулировка, сокращение, расширение);
Пользователь видит, как его выбор влияет на итог:
каждое изменение структуры и параметров пересчитывается в результате;
интерфейс показывает обновления по блокам, а не как новую генерацию;
пользователь наблюдает причинно-следственную связь между своими действиями и финальным продуктом.
В этот момент интерфейс перестает быть «черным ящиком» и начинает работать как инструмент мышления — усиливает осознанность и вовлеченность пользователя.
Участие пользователя в сценарии перестает быть иллюзией и начинает фиксировать реальное понимание материала прямо внутри интерфейса.
Сейчас мы продолжаем дорабатывать интерфейс в сторону усиления вовлечённости пользователя: ищем способы, при которых участие в процессе становится не опциональным, а встроенным в саму логику работы с продуктом.
Что в итоге
В итоге мы пришли к простому критерию: качественный AI-продукт в образовании — это тот, который не дает пользователю пропасть из процесса. Он не подменяет участие автоматизацией, а структурирует его. Если же результат получается без вовлечения пользователя, это уже не фича, а продуктовый дефект.
Мы решили эту проблему в Кэмп через интерфейс — убрали «чёрный ящик» и добавили точки, где пользователь вынужден принимать решения. Это решение изменило поведение клиентов: вместо быстрого получения результата они начали думать о том, как именно к нему пришли.