К счастью или нет, искусственный интеллект уже стал неотъемлемой частью жизни для миллионов. Многое померкло перед новым светилом прогресса — рукотворным заменителем мозга.
ИИ уравнял людей: без него не обходятся ни бедолаги-студенты, ни врачи, ни американский президент. Самое время задуматься: ведет ли эта тенденция к всеобщей деградации или, напротив, помогает развитию наших способностей? Сегодня разберём пару кейсов.
Когнитивная лень
Пожалуй, самое очевидное последствие использования ИИ. Или нет?
Итак, предположим, у нас есть 54 испытуемых: 27 «новичков» (пользуются ИИ меньше года) и 27 «экспертов» (используют его более трёх лет). Мы даём им задание, по сложности сопоставимое с домашней работой старшеклассника: написать эссе на 500 слов на тему… Ну, скажем, “Должны ли социальные сети нести юридическую ответственность за дезинформацию?” (типичная тема для американского ЕГЭ под названием “SAT”).
Затем делим всех на три группы по 18 человек:
Группа 1 — пишут эссе с ИИ;
Группа 2 — гуглят факты вручную;
Группа 3 — не используют инструменты вообще.
В каждой группе поровну «новичков» и «экспертов».
Далее делаем замеры: электроэнцефалография поможет определить, в каком состоянии находится мозг, тест на воспроизведение - сколько аргументов участники вспомнят через сутки, а метакогнитивная оценка — как они сами воспринимают качество своего эссе.
Каков итог? MIT Media Lab действительно проводила такой эксперимент, поэтому результаты у нас есть.
Ожидаемо, что самые высокие показатели по всем направлениям оказались у людей, полагавшихся только на собственный ум. Их мозг активно работал, на следующие сутки они воспроизвели 60–65% аргументов из сочинения, а самооценка была адекватной.
Второй по результативности была группа адептов Гугла — мозговая активность была чуть ниже, запоминание немного хуже, но и самооценка невысокая.
А вот дальше интересно. Показатели “новичков” в группе чатгэпэтэшников были самыми низкими, потому что они целиком и полностью полагались на бота и копипастили всё, что он накатал. Мозг работал значительно хуже, чем у остальных, ужасные результаты по воспроизведению аргументов, зато самооценка “выше крыши”.
Что же касается “экспертов”... По сути, они просто использовали ИИ как более удобную замену поисковику — то есть как вспомогательный инструмент, а не как литературного раба. По сравнению со второй группой их мозговая активность была совсем незначительно меньше, зато степень запоминания выше. А самооценка находилась где-то посередине между “новичками” и группой номер один.
Вывод напрашивается сам собой: своим умом думать полезнее, однако использование ИИ в качестве опоры — а не пары костылей — вполне допустимо. А вот поручать ИИ всю задачу целиком, конечно, мешает умственно развиваться.
Однако правда еще и в том, что к этому эксперименту есть множество вопросов, и небеспочвенно. Критики отмечают несколько спорных моментов: слишком специфическая выборка студентов, условия, мало похожие на реальный процесс мышления, неточности ЭЭГ. Всё это наводит на мысли о скрытой предвзятости исследования, мол “ИИ зло, у вас атрофируются мозги!”. С таким подходом сложно объективно оценить новую технологию.
Гомогенизация творчества
Креативность - один из признаков ума, а также рабочий инструмент для маркетологов, дизайнеров, в общем, людей творческих ремёсел. Что произойдет, если они повально станут использовать ИИ для генерации идей? Harvard Business Review как раз опубликовал исследование на эту тему.
1000 участников, 200 команд по 5 человек. Возраст: 25-45 лет, опыт работы от 3 до 10 лет. Команды поделили пополам и дали задачу — придумать новое фитнес-приложение с игровыми механиками и отслеживанием здоровья. На всё про всё 45 минут.
Нюанс в том, что одна сотня действовала самостоятельно, а другая использовала всемогущую ИИшечку. Затем провели сравнительный анализ придуманных идей, дабы выяснить, насколько они разнообразны и не банальны в каждой из групп
И как же объективно измерить степень креативности? Применялось сразу несколько методов.
Первый — оценка смыслового разнообразия (семантическая близость). Нейросеть BERT разложила каждую идею на вектор из 768 чисел и вычислила, насколько смыслы идей близки друг к другу: значение 0 означает «абсолютно разные», 1 - «абсолютно одинаковые». Получилось, что без ИИ в среднем идеи различались на 0,55 (довольно разнообразно), а с ИИ на 0,72 (похожи друг на друга). Получается, что использование нейросети привело к снижению разнообразия.
Второй метод — тест на новизну. Пять независимых экспертов оценивали оригинальность каждой идеи по десятибалльной шкале. Оценки группы хомосапиенсов составили 7,2 балла против 6,1 у группы ИИшников. Но это не слишком объективно, ведь оценкой занимались люди.
Поэтому идеи дополнительно прогнали через патентные базы, чтобы проверить, насколько придуманное пересекается с уже существующим. Неожиданно, наверное, но совпадений гораздо меньше у тех, кто нейросеть не использовал (28% “самодумцев” против 62% их соперников).
Заключительный тест — разброс идей внутри команд. Алгоритм (метод k-средних, который разбивает объекты векторного пространства на заранее заданное число кластеров) автоматически сгруппировал все идеи в 5 кластеров. Если большинство идей попадает всего в пару-тройку из этих кластеров — значит, мозговой штурм дал однотипные результаты. Если же кластеры заполнены более менее равномерно — команда мыслила широко. Результаты нейрослопа оказались удручающими: 80% идей были собраны в трёх смысловых группах, а значит разброс совсем небольшой. Без ИИ тот же показатель составил 45%.
Выходит, что ИИ продемонстрировал некий “средненький” креатив. Большинство генерируемых им идей уже существуют и показали свою эффективность на практике, именно поэтому он их и воспроизводит. Однако отличить банальную идею от инновационной, искусственный интеллект пока неспособен, это под силу лишь нашему брату из плоти и костей.
Здесь у критиков снова вопросы в основном к измерительным приборам. Как уже упоминалось как экспертные оценки могут быть субъективны, а автоматические метрики (особенно те, что основаны на семантической близости) могут фиксировать скорее стилистическое или языковое сходство, а не смысловое. Также есть претензии к ограниченности задачи — промпт был всего один, и сложно судить о наличии или отсутствии креативности при таком условии. Из-за этого результаты могут отражать особенности конкретной задачи, а не универсальный эффект нейросетей.
Workslop
В том же исследовании упоминается губительное влияние так называемого воркслопа - рабочего контента, созданного с помощью ИИ, но при этом полностью бесполезного. Он создаёт лишь видимость бурной деятельности, тогда как сотрудники, вынужденные его исправлять, тратят в среднем по 2 часа на единицу такого материала.
Исследователи три месяца наблюдали за 50 крупными компаниями (1150 человек в совокупном штате) в сфере технологий, финансов и консалтинга, отслеживая все рабочие документы объёмом больше 500 слов: отчёты, презентации, длинные письма.
Среди них выявляли нечто похожее на ИИ-контент по косвенным признакам. Например, слишком общие фразы, фактические ошибки или просто неестественно ровный тон. Затем фиксировали, сколько времени люди тратят на доведение таких доков до ума, как меняется доверие внутри команды и во сколько это обходится бизнесу.
Выяснилось, что сотрудникам, получившим в работу воркслоп-документы, приходится проверять выдуманные факты и цифры, адаптировать пластмассовый тон, а порой банально разбираться, о чём вообще идет речь. В итоге сверхурочная работа влетает в копеечку: 9,65$ млн (965 000 000 американских копеечек, если быть точным).
Кроме того, подрывается и доверие к коллеге, который скинул это на проверку. В итоге то, что призвано сэкономить время и финансы, создаёт обратную ситуацию — по крайней мере таков вывод исследования.
Однако критика исследования указывает на субъективный характер некоторых признаков воркслопа. Специальных инструментов не использовалось, поэтому чей-то черновик могли ошибочно принять за ИИ наработку. Также вызывает вопросы возможное наличие других факторов, способных повлиять на результаты: например, не обязательно, что верна причинно-следственная связь “ИИ = жалобы на воркслоп”.
В компаниях может быть много бюрократии, низкое качество документации в целом или проблемы с менеджментом. И снова претензии к выборке: опрашивали только так называемых “белых воротничков”, тогда как в инженерных, научных или продуктовых командах специфика работы другая, и эффект воркслопа может быть слабее или проявляться иначе.
Следовательно, экстраполировать цифру в почти 10 миллионов на все компании было бы некорректно. А главное - в исследовании никак не зафиксирован положительный эффект ИИ: неясно, сколько времени и ресурсов его использование сэкономило, в сравнении с потерями.
Губит людей не пИИво…
Я так устал, что меня все время заставляют учиться. И даже не спросят: нужно мне это или нет…
Какой вывод можно сделать в конце? Наверное, что бездумное использование ИИ как заменителя собственных мозгов вскоре приведёт к атрофии ума.
Однако, пока что все приведенные данные следует интерпретировать с осторожностью. Критики указывают на методологические недостатки исследований или даже банального игнорирования положительного эффекта от ИИ.
На данный момент однозначного ответа на вопрос о деградации или развитии нет. Эффект нейросетей сугубо контекстуален: он может и ослаблять мышление, но при этом и служить полезной опорой при ответственном использовании.
Возможно со временем акценты сместятся и более ценными станут умение задавать правильные вопросы, критически оценивать результаты и нащупывать суть проблемы, даже если AI любит растекаться мыслью по древу. Одно можно сказать точно: последствия будут, но какие именно — увидим.
Товарищи, используйте ИИ добросовестно!