¿Cómo sabemos si la IA es solo humo para vender?
- 27 may
- 10 min de lectura
Reflexiones sobre si la "Revolución de la IA" se parece más a la imprenta o a las criptomonedas.
No soy casi la primera persona en sentarse y pensar realmente en lo que el advenimiento de la IA significa para nuestro mundo, pero es una pregunta que todavía encuentro que se hace y se habla. Sin embargo, creo que la mayoría de estas conversaciones parecen perderse factores clave.
Antes de comenzar, déjame darte tres anécdotas que ilustran diferentes aspectos de este tema que han dado forma a mi forma de pensar últimamente.
Hace poco tuve una conversación con un asesor financiero. Señaló que los ejecutivos de su institución estaban difundiendo el consejo de que la IA es un cambio sustantivo en la escena económica, y que las estrategias de inversión deberían considerarla como revolucionaria, no solo un ciclo de exageración o un destello en la sartén. Quería saber lo que pensaba, como practicante en la industria del aprendizaje automático. Le dije, como le he dicho antes a amigos y lectores, que hay mucha publicidad exagerada, y todavía estamos esperando a ver qué es real debajo de todo eso. El ciclo de la exageración sigue sucediendo.
También esta semana, escuché el episodio de Tech Won't Save Us sobre periodismo tecnológico y Kara Swisher. El invitado Edward Ongweso Jr. comentó que pensaba que Swisher tiene un patrón de ser crédulo sobre las nuevas tecnologías en el momento y cambiar de tono después de que esas nuevas tecnologías resulten no ser tan impresionantes o revolucionarias como prometieron (ver, coches autónomos y criptomonedas). Pensó que este fenómeno estaba sucediendo con ella de nuevo, esta vez con IA.
Una vez escuche sobre un fenómeno en el que piensas que un experto o pensador tecnológico en particular tiene ideas muy sabias cuando el tema que están discutiendo es uno sobre el que no sabes mucho, pero cuando comienzan a hablar de algo que está en tu área de especialización, de repente te das cuenta de que están muy fuera de lugar. Vuelves a tu mente y te preguntas: "Sé que están equivocados en esto. ¿También se equivocaron sobre esas otras cosas?" He estado experimentando esto de vez en cuando recientemente sobre el tema del aprendizaje automático.
Es realmente difícil saber cómo se van a asentar las nuevas tecnologías y cuál será su impacto a largo plazo en nuestra sociedad. Los historiadores te dirán que es fácil mirar hacia atrás y asumir "esta es la única forma en que los eventos podrían haber ocurrido", pero en realidad, en ese momento nadie sabía lo que iba a suceder a continuación, y había innumerables giros posibles de eventos que podrían haber cambiado todo el resultado, igual o más probable que lo que finalmente sucedió.
TL;DR
La IA no es una estafa total. El aprendizaje automático realmente nos da oportunidades para automatizar tareas complejas y escalar de manera efectiva. La IA tampoco va a cambiar todo sobre nuestro mundo y nuestra economía. Es una herramienta, pero no va a reemplazar el trabajo humano en nuestra economía en la gran mayoría de los casos. Y, AGI no es una perspectiva realista.
La IA no es una estafa total. ... La IA tampoco va a cambiar todo sobre nuestro mundo y nuestra economía.
¿Por qué digo esto? Déjame explicarte.
En primer lugar, quiero decir que el aprendizaje automático es bastante bueno. Creo que enseñar a las computadoras a analizar los matices de los patrones que son demasiado complejos para que las personas realmente se groden a sí mismas es fascinante, y que crea muchas oportunidades para que las computadoras resuelvan problemas. El aprendizaje automático ya está influyendo en nuestras vidas de todo tipo de maneras, y lo ha estado haciendo durante años. Cuando construyo un modelo que puede completar una tarea que sería tediosa o casi imposible para una persona, y se implementa para que se resuelva un problema para mis colegas, eso es muy satisfactorio. Esta es una versión a muy pequeña escala de algunas de las cosas de vanguardia que se están haciendo en el espacio de IA generativa, pero está en el mismo paraguas amplio.
Expectativas
Hablar con laicos y hablar con los profesionales del aprendizaje automático le dará imágenes muy diferentes de lo que se espera que signifique la IA. He escrito sobre esto antes, pero vale la pena repetirlo. ¿Qué esperamos que la IA haga por nosotros? ¿Qué queremos decir cuando usamos el término "inteligencia artificial"?
Para mí, la IA es básicamente "automatizar tareas utilizando modelos de aprendizaje automático". Eso es todo. Si el modelo de ML es muy complejo, podría permitirnos automatizar algunas tareas complicadas, pero incluso los pequeños modelos que realizan tareas relativamente estrechas siguen siendo parte de la mezcla. He escrito extensamente sobre lo que realmente hace un modelo de aprendizaje automático, pero para la abreviatura: analizar matemáticamente y replicar patrones a partir de datos. Así que eso significa que estamos automatizando tareas usando representaciones matemáticas de patrones. La IA es que elegimos qué hacer a continuación en función de los patrones de eventos de la historia registrada, ya sea la historia de los textos que la gente ha escrito, el historial de los precios de la vivienda o cualquier otra cosa.
La IA es que elegimos qué hacer a continuación en función de los patrones de eventos de la historia registrada, ya sea la historia de los textos que la gente ha escrito, el historial de los precios de la vivienda o cualquier otra cosa.
Sin embargo, para muchas personas, la IA significa algo mucho más complejo, en el nivel de ser vagamente ciencia ficción. En algunos casos, difuminan la línea entre la IA y la AGI, que también está mal definida en nuestro discurso. A menudo no creo que las personas sepas lo que quieren decir con estos términos, pero tengo la sensación de que esperan algo mucho más sofisticado y universal que lo que la realidad tiene para ofrecer.
Por ejemplo, los LLM entienden la sintaxis y la gramática del lenguaje humano, pero no tienen un concepto inherente de los significados tangibles. Todo lo que un LLM sabe es internamente referencial: "rey" a un LLM se define solo por sus relaciones con otras palabras, como "reina" u "hombre". Así que si necesitamos un modelo que nos ayude con problemas lingüísticos o semánticos, está perfectamente bien. Pídele sinónimos, o incluso que acumule párrafos llenos de palabras relacionadas con un tema en particular que suenen muy realistasmente humanos, y lo hará muy bien.
Pero hay una gran diferencia entre esto y el "conocimiento". Lanza una piedra y encontrarás un hilo de redes sociales de personas que ridiculizan cómo ChatGPT no hace bien los hechos y alucina todo el tiempo. ChatGPT no es y nunca será un "robot productor de hechos"; es un gran modelo de lenguaje. Hace lenguaje. El conocimiento es incluso un paso más allá de los hechos, donde la entidad en cuestión tiene comprensión de lo que significan los hechos y más. No corremos ningún riesgo de que los modelos de aprendizaje automático lleguen a este punto, lo que algunas personas llamarían "AGI", utilizando las metodologías y técnicas actuales disponibles para nosotros.
El conocimiento es incluso un paso más allá de los hechos, donde la entidad en cuestión tiene comprensión de lo que significan los hechos y más. No corremos ningún riesgo de que los modelos de aprendizaje automático lleguen a este punto utilizando las metodologías y técnicas actuales disponibles para nosotros.
Si la gente está mirando ChatGPT y quiere AGI, algún tipo de modelo de aprendizaje automático que tenga comprensión de la información o la realidad a la par o superior a las personas, esa es una expectativa completamente poco realista. (Nota: Algunos en este espacio de la industria promocionarán grandemente la inminente llegada de AGI en relaciones públicas, pero cuando se les impulse, retrocederán sus definiciones de AGI a algo mucho menos sofisticado, para evitar ser considerados por su propia exageración).
Como aparte, no estoy convencido de que lo que hace el aprendizaje automático y lo que nuestros modelos pueden hacer pertenezca al mismo espectro que lo que hacen las mentes humanas. Argumentar que el aprendizaje automático actual puede conducir a la AGI supone que la inteligencia humana se define por el aumento de la capacidad de detectar y utilizar patrones, y aunque esta es ciertamente una de las cosas que la inteligencia humana puede hacer, no creo que eso sea lo que nos defina.
Ante mi escepticismo sobre la revolución de la IA, un asesor financiero mencionó el ejemplo de los restaurantes de comida rápida que cambian a la IA de reconocimiento de voz en el drive-thru para reducir los problemas con los operadores humanos que no pueden entender lo que los clientes están diciendo desde sus coches. Esto podría ser interesante, pero difícilmente una epifanía. Este es un modelo de aprendizaje automático como herramienta para ayudar a las personas a hacer su trabajo un poco mejor. Nos permite automatizar pequeñas cosas y reducir un poco el trabajo humano, como he mencionado. ¡Sin embargo, esto no es exclusivo del mundo de la IA generativa! Hemos estado automatizando tareas y reduciendo el trabajo humano con aprendizaje automático durante más de una década, y agregar LLM a la mezcla es una diferencia de grados, no un cambio sísmico.
Hemos estado automatizando tareas y reduciendo el trabajo humano con aprendizaje automático durante más de una década, y agregar LLM a la mezcla es una diferencia de grados, no un cambio sísmico.
Quiero decir que el uso del aprendizaje automático puede y definitivamente nos proporciona mejoras incrementales en la velocidad y eficiencia por las que podemos hacer muchas cosas, pero nuestras expectativas deben estar formadas por la comprensión real de lo que estos modelos son y lo que no son.
Límites prácticos
Puede que estés pensando que mi primer argumento se basa en las capacidades tecnológicas actuales para los modelos de entrenamiento, y los métodos que se utilizan hoy en día, y ese es un punto justo. ¿Qué pasa si seguimos impulsando la capacitación y las tecnologías para producir productos de IA generativa cada vez más complejos? ¿Tendremos algún punto en el que se cree algo totalmente nuevo, tal vez el tan cacareado "AGI"? ¿No es el cielo el límite?
El potencial del aprendizaje automático para apoyar las soluciones a los problemas es muy diferente de nuestra capacidad para realizar ese potencial. Con recursos infinitos (dinero, electricidad, metales de tierras raras para chips, contenido generado por el hombre para el entrenamiento, etc.), hay un nivel de representación de patrones que podríamos obtener del aprendizaje automático. Sin embargo, con el mundo real en el que vivimos, todos estos recursos son bastante finitos y ya nos estamos enfrentando a algunos de sus límites.
El potencial del aprendizaje automático para apoyar las soluciones a los problemas es muy diferente de nuestra capacidad para realizar ese potencial.
Ya sabemos desde hace años que los datos de calidad para entrenar a los LLM se están agotando, y los intentos de reutilizar los datos generados como datos de entrenamiento resultan muy problemáticos. (h/t a Jathan Sadowski por inventar el término "IA de Habsburgo", o "un sistema que está tan fuertemente entrenado en los resultados de otras IA generativas que se convierte en un mutante endogámico, probablemente con características exageradas y grotescas"). Creo que también vale la pena mencionar que tenemos poca capacidad para distinguir los datos generados y orgánicos en muchos casos, por lo que es posible que ni siquiera sepamos que estamos creando una IA de Habsburgo a medida que está sucediendo, la degradación puede simplemente colarse sobre nosotros.
Voy a saltarme la discusión de las limitaciones de dinero/energía/metales hoy porque tengo otra pieza planeada sobre los recursos naturales y las implicaciones energéticas de la IA, pero saltar al Borde para una buena discusión solo de la electricidad. Creo que todos sabemos que la energía no es un recurso infinito, ni siquiera las energías renovables, y ya estamos comprometiendo el consumo eléctrico equivalente de los países pequeños a los modelos de entrenamiento, modelos que no se acercan a las promesas promocionadas de los hucksters de IA.
También creo que los desafíos regulatorios y legales para las empresas de IA tienen patas potenciales, como he escrito antes, y esto debe crear limitaciones en lo que pueden hacer. Ninguna institución debería estar por encima de la ley o sin limitaciones, y desperdiciar todos los recursos naturales de nuestra tierra al servicio de tratar de producir AGI sería aborrecible.
Mi punto es que lo que podemos hacer teóricamente, con cuentas bancarias infinitas, minas minerales y fuentes de datos, no es lo mismo que lo que realmente podemos hacer. No creo que sea probable que el aprendizaje automático pueda lograr AGI incluso sin estas limitaciones, en parte debido a la forma en que realizamos la capacitación, pero sé que no podemos lograr nada como eso en condiciones del mundo real.
Lo que podemos hacer teóricamente, con infinitas cuentas bancarias, minas minerales y fuentes de datos, no es lo mismo que lo que realmente podemos hacer.
Incluso si no nos preocupamos por AGI, y solo enfocamos nuestras energías en el tipo de modelos que realmente tenemos, la asignación de recursos sigue siendo una preocupación real. Como mencioné, lo que la cultura popular llama IA es en realidad solo "automatizar tareas utilizando modelos de aprendizaje automático", lo que no suena tan glamoroso. Es importante destacar que revela que este trabajo no es un monolito, también. La IA no es una cosa, son un millón de pequeños modelos por todas partes que se insertan en flujos de trabajo y tuberías que utilizamos para completar tareas, todos los cuales requieren recursos para construir, integrar y mantener. Estamos agregando LLM como opciones potenciales para encajar en esos flujos de trabajo, pero eso no hace que el proceso sea diferente.
Como alguien con experiencia haciendo el trabajo para obtener la aceptación de la empresa, recursos y tiempo para construir esos modelos, no es tan simple como "¿podemos hacerlo?". La verdadera pregunta es "¿es esto lo correcto frente a las prioridades en competencia y los recursos limitados?" A menudo, construir un modelo e implementarlo para automatizar una tarea no es la forma más valiosa de gastar tiempo y dinero en la empresa, y los proyectos se dejarán de lado.
Conclusión
El aprendizaje automático y sus resultados son increíbles, y ofrecen un gran potencial para resolver problemas y mejorar la vida humana si se usa bien. Sin embargo, esto no es nuevo, y no hay almuerzo gratis. Aumentar la implementación del aprendizaje automático en todos los sectores de nuestra sociedad probablemente seguirá sucediendo, al igual que lo ha hecho durante la última década o más. Agregar IA generativa a la caja de herramientas es solo una diferencia de grado.
AGI es una entidad completamente diferente y también completamente imaginaria en este momento. Ni siquiera he arañado la superficie de si nos gustaría que AGI existiera, incluso si pudiera, pero creo que es solo un tema filosófico interesante, no una amenaza emergente. (Un tema para otro día.) Pero cuando alguien me dice que cree que la IA va a cambiar completamente nuestro mundo, especialmente en el futuro inmediato, es por eso que soy escéptico. El aprendizaje automático puede ayudarnos mucho, y lo ha estado haciendo durante muchos años. Las nuevas técnicas, como las utilizadas para desarrollar IA generativa, son interesantes y útiles en algunos casos, pero no son un cambio tan profundo como nos están haciendo creer.
Comentarios