Привет, меня зовут Янина. По основной работе я управляю проектами и продуктами, а по вечерам — преподаю разговорный английский на темы продуктовой разработки. Уже полгода я веду небольшой разговорный клуб, где мы с ребятами из IT (PM, PO, разработчики, дизайнеры, аналитики) обсуждаем реальные кейсы продуктовой разработки.
В качестве материалов для аудирования я часто использую подкасты, фильмы и новости. Это мои ключевые источники тем, лексики и инсайтов для созвонов. Я не просто слушаю их сама — я отбираю видео, которые потом превращаются в живые дискуссии и дают практическую пользу.
И сегодня делюсь саммари холливарного фильма о ресурсах для ИИ. Enjoy )
За каждым запросом к ChatGPT стоят миллионы невидимых людей — работающих на низко оплачиваемых рабочих местах из неблагополучных стран. Их труд тщательно скрывается из нарратива про успешность и эффективность ИИ-компаний.
Часть I. Миф об автономии
Когда мы говорим об искусственном интеллекте, мы воображаем системы, которые работают сами по себе — без участия человека. Siri, которая находит ресторан, Google Translate, мгновенно переводящий текст, беспилотный автомобиль, распознающий дорогу.
Но это миф, который тщательно пиарится.
«ИИ — это просто куча работы, куча ресурсов, куча труда, собранного вместе для получения результата. То, что большинство людей этого не знает, — вероятно, скрыто преднамеренно» — Милош Мишелли, социолог, институт VITAM.
Мишелли руководит исследовательской группой по этике алгоритмических систем. По его словам, концепция «автономного ИИ» — нарратив, созданный намеренно: чтобы скрыть от общественности колоссальный человеческий труд, который питает эти системы.
За каждой моделью стоит не просто инженер из Кремниевой долины. За ней — армия невидимых работников, которые размечают изображения, оценивают ответы ботов, фильтруют токсичный контент. Иногда — из тюремных камер.
Финская заключённая «Когда начинаешь работать, получаешь 3 евро. После двух месяцев работы — 4,62 евро в день. Я работаю с вопросами, которые касаются строительной отрасли: определяю, правильные ли ответы. Это не совсем моё, но лучших вариантов работы нет»
Часть II. 150–430 миллионов невидимых
Омар Рани, старший экономист Международной организации труда, фиксирует: число дата-воркеров в мире выросло экспоненциально. По оценке Всемирного банка — от 150 до 430 миллионов человек. Их дневной заработок на платформах вроде Mindrift — около 9 долларов за выполнение 12 задач.
Что конкретно делают эти люди? Арнаб Тас из Калькутты классифицирует изображения: определяет, что на снимке — активный пожар, туман или ясное небо; размечает дороги и пешеходные дорожки для обучения беспилотных автомобилей. Анна из Болгарии маркирует товары на полках супермаркетов. Их имена — не упомянуты в создании никаких продуктов.
«AI не может обойтись без дата-работы. Именно поэтому люди, которые работают с датасетами, незаменимы. Вы должны постоянно кормить модели» — Омар Рани, МОТ
Труд целенаправленно отдаётся на аутсорс в страны Глобального Юга — туда, где слабые общественные институты, высокая безработица и низкие зарплаты.
Что такое Глобальный Юг? Это развивающиеся страны с колониальным прошлым и структурным экономическим неравенством. В контексте индустрии ИИ это прежде всего Кения, Индия, Болгария, Венесуэла, Ливан — страны, куда намеренно выносится самая низкооплачиваемая и психологически опасная работа.
По словам Мишелли, это не случайность, а осознанная стратегия. ИИ-компании нацеливаются на отчаявшихся людей и никогда не платят достаточно, чтобы дать им возможность уйти. Дают достаточно, чтобы выжить сегодня, но не завтра.
Часть III. «Нас приносят в жертву»
Файн Макира из Кении работала контент-модератором в компании, связанной с OpenAI. Через неё и её коллег прокачивался исключительно токсичный контент — по некоторым оценкам, 99,9% материала было откровенно опасным. От словесного насилия до материалов сексуальной эксплуатации детей.
Файн Макира, бывший контент-модератор «У меня начались ночные кошмары — особенно после просмотра убийств или изнасилований, особенно когда жертвами были дети. Я перестала выходить на улицу. Развилась тревожность. Потом депрессия»
Технически это объяснимо: чтобы ИИ научился не имитировать насилие, насилие ему нужно показать и разметить. Кто-то должен это смотреть.
«Они знают, что нам дают. Они знают эффект этого контента на психику. Нас приносят в жертву, потому что мы помогаем создавать эту программу, а по телевизору мы видим, что эта программа принадлежит компании, у которой миллиарды. А мы что с этого имеем?» — Дата-воркер из Кении
Компании активно подавляют любые попытки работников объединиться. Работников заставляют подписывать NDA — с угрозой тюрьмы сроком более 10 лет за разглашение. Профсоюзная деятельность де-факто запрещена. Во время съёмок фильма один из калифорнийских ИИ-гигантов оказал давление на свидетелей, вынудив их молчать и не принимать участие в съемке фильма.
Часть IV. Лонгтермизм как моральное алиби
Почему СPO из Кремниевой долины позволяют себе игнорировать страдания реальных людей? Философ Эмиль Торрес предлагает ответ: идеология лонгтермизма.
Лонгтермизм — взгляд, согласно которому главная задача человечества состоит в создании как можно большей мультигалактической цивилизации в далёком будущем. В эту картину вписываются трансгуманизм и сингулярианизм. Эти течения объединены аббревиатурой TESCREAL. Маск называл лонгтермизм близким к своей личной философии.
«Утопический аспект лонгтермизма позволяет людям морально оправдывать перед собой эксплуатацию людей из неблагополучных стран. Именно поэтому эта идеология так опасна» — Д-р Эмиль Торрес, философ
Логика проста: если страдания людей из неблагополучных стран — «молекула в капле в океане» по сравнению с неисчислимым благом для триллионов людей в далёком будущем, то ими можно пренебречь. Кремниевая долина строит рай — но вход туда открыт не для всех, даже причастных.
Часть V. Невидимая инфраструктура
Помимо человеческих издержек, ИИ пожирает природные ресурсы в промышленных масштабах: медь, золото, кобальт, никель, литий, вольфрам, редкоземельные металлы — всё это извлекается из недр земли для производства чипов и серверов.
Анна Вальдивия из Оксфордского института указывает, что связь между добычей ресурсов и ИИ намеренно замутнена. Образ «облака» в нашем ноутбуке не вызывает ассоциаций с огромным складом серверов, потребляющим тысячи мегаватт и миллиарды литров воды.
«Если бы у вас была информация о том, сколько воды уходит на добычу минералов, производство чипов и охлаждение дата-центров — вы бы задались вопросом: а нужна ли нам эта технология в условиях климатической катастрофы?» — Анна Вальдивия, Oxford Internet Institute (исследовательское подразделение Оксфордского университета).
Послесловие. Кто заплатит следующим?
В начале фильма звучат обещания: ИИ победит рак, остановит климатический кризис, создаст 100 миллиардов «работников, готовых трудиться бесплатно». В конце те же слова звучат совсем иначе.
У технологических компаний достаточно ресурсов, чтобы платить своим работникам нормально. Но они выбирают не платить — потому что уверены, что люди недостаточно информированы, чтобы понять, что происходит.
«Стоит ли почти бесплатный труд этих работников большего блага для человечества — я бы спросил самих работников, что они об этом думают» — Джеймс Малдун, Университет Эссекса.