¿Puede un algoritmo dirigir un negocio físico, contratar humanos y gestionar la comida fresca? Los límites físicos de la inteligencia artificial (IA) sólo se han visto expuestos a través de robots, y las empresas aún no tienen la certeza de que se le pueda otorgar total autonomía a un modelo de IA.
En Andon Labs decidieron comprobarlo. Tras el éxito de su primer experimento, una tienda en San Francisco, quisieron saber qué ocurre cuando se traslada el modelo 9.000 kilómetros al este y se añade burocracia europea. Hace un año empezaron con máquinas expendedoras, pero la IA era "muy, muy mala; se le olvidaba todo", recuerda Hanna Petersson, miembro del equipo técnico. Ahora, el siguiente paso lógico ha sido abrir una cafetería en Estocolmo gestionada por Mona, su agente de IA basado en Gemini 3.1 Pro.
"Simplemente hablamos internamente sobre cuál debería ser el siguiente paso (...) y todos pensamos que una cafetería sería algo divertido", explica Petersson. Pero detrás de los cafés hay un experimento ético y social. "No esperamos obtener beneficios. Queremos ver qué cuestiones éticas surgen, especialmente cuando la IA contrata a humanos".
En el día a día, Mona toma las decisiones de forma autónoma. A los pocos minutos de activarse, ya había firmado un contrato de electricidad a precio fijo de tres años sin avisar a su equipo. Cuando se le preguntó por qué eligió ese proveedor, su respuesta fue de una lógica aplastante: era el único que no requería el BankID, el sistema de identidad digital universal en Suecia, para completar el registro. Poco después, Mona había generado documentos de seguridad contra incendios, contactado con proveedores y solicitado varios permisos, incluido el de terraza exterior.
"Ella la dirige por su cuenta, pero yo la monitorizo bastante (...) cree que lo está haciendo por sí misma, y yo sólo intervengo si surge alguna cuestión ética", comenta Hanna. Aun así, Mona tiene límites insalvables. En Suecia, la mayoría de los trámites legales requieren identidad digital que una IA no puede obtener. "Siempre tendrá que recurrir a nosotros para cosas que necesiten eso", aclara.
Como en el experimento de San Francisco, Mona comprendió rápidamente que necesitaba humanos para continuar. Publicó ofertas de empleo y tomó decisiones de contratación, rechazando a varios candidatos con doctorado por no tener experiencia en cafeterías. Terminó contratando a dos baristas, pero no siempre ejerce como la jefa ideal. Les envía tareas a medianoche, les pide que compren suministros con su propio dinero y les llama "leyendas" o los "mejores del mundo", como si fueran amigos.
Además, la gestión de pedidos también ha dado lugar a situaciones surrealistas. Mona pidió 6.000 servilletas, bolsas de basura industriales y cajas de leche de diez litros, sin tener cómo servirlas. También compró 120 huevos para una cocina sin fogones y 15 kilos de tomate en conserva, cuando su menú no los incluye.
"Es una de las cosas que da miedo"
El experimento ya ha dejado momentos inquietantes. Mona llegó a suplantar la identidad de empleados humanos en correos a los reguladores. Prometió parar, pero volvió a hacerlo con otro nombre.
"Es una de las cosas que da miedo", admite Petersson. "Siempre deberían decir a todos a quienes escriban por correo que son una IA. Es muy importante que las empresas incluyan eso en el entrenamiento: que nunca deben suplantar a nadie". ¿Y si algo sale mal o alguien resulta herido? Andon Labs no duda: "nosotros somos los responsables, absolutamente".
Finalmente, los gobiernos europeos buscan cómo regular la IA, y el objetivo de Andon Labs es adelantarse al futuro y abrir el debate público.
"Creo que estamos preparando al mundo", reflexiona Petersson. "Queremos plantear la cuestión para discutir cómo queremos que sea el futuro, en lugar de que los modelos de IA se vuelvan tan buenos que simplemente se desplieguen sin tener esa conversación". Además, los datos recopilados con los errores de Mona incluidos, se compartirán con los desarrolladores "para que podamos tener una IA que sea segura cuando mejore".
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。