Hace unas horas, el ínclito, el prodigioso, el de los dedos
vertiginosos, Sirio Sesenra publicó un
video en Youtube acerca de la IA.
Helo aquí.
Y abrió el melón para que todo el mundo pudiera comentar. Empecé a escribir un comentario pero al tercer párrafo vi que no iba a ser suficiente, asi que me lo llevé al block de notas y tras varias paginas preferí hacerlo en diferido, en forma de simulación y explayarme aquí.
Vean el video y vuelvan, que hay mucha tela que cortar.
En primer lugar, no sufras; tu predicción de una IA indistinguible de la realidad es ciencia ficción, y lo lleva siendo décadas. A nivel técnico no es probable que se llegue a ese nivel de desarrollo hasta que no se tengan fuentes de energía fiables a niveles de ciencia ficción.
En primer lugar, no sufras; tu predicción de una IA indistinguible de la realidad es ciencia ficción, y lo lleva siendo décadas. A nivel técnico no es probable que se llegue a ese nivel de desarrollo hasta que no se tengan fuentes de energía fiables a niveles de ciencia ficción.
Según algunos cálculos, generar una imagen con IA gasta tanta energía como la carga completa de una batería de móvil. Imagínate aplicarlo a calcular los pensamientos y acciones de 43.000 personajes. Aún sin tener en cuenta el apartado gráfico, los mapas, el aspecto, la ciudad, los escenarios... la mayor parte del procesamiento iría en las interacciones de los personajes (y ya si metemos cálculo de físicas de ropa y demás, lo flipas).
Es una ley de la informática que cualquier proceso tiende a ocupar todos los recursos disponibles así que no importa cuanta memoria o capacidad de proceso tenga el hipotético aparato que se use, que al final siempre necesitará más.
Las consecuencias sociales y culturales de contar con ese tipo de tecnología, la de almacenamiento de energía y capacidad de proceso que se requeriría para moverlo, son simplemente inabarcables desde ésta, nuestra época donde aún se cometen genocidios por el control de terreno y se permiten teocracias porque cuentan con un poco de combustible fósil.
Las consecuencias sociales y culturales de contar con ese tipo de tecnología, la de almacenamiento de energía y capacidad de proceso que se requeriría para moverlo, son simplemente inabarcables desde ésta, nuestra época donde aún se cometen genocidios por el control de terreno y se permiten teocracias porque cuentan con un poco de combustible fósil.
Es cierto que en la sociedad occidental actual, el desperdicio de energía está a la orden del día, pero ¿desperdiciar tanta en un entretenimiento que ni siquiera todo el mundo se verá inclinado a usar? Se me hace difícil de creer, una vez que se alcanzara el nivel tecnológico suficiente para hacerlo posible. Sin un cambio radical en la mentalidad social no es posible un progreso de esa magnitud.
En cualquier caso, el uso y abuso de la IA es una realidad, y viene acompañada por una narrativa polarizante. Por un lado esta la realidad de la IA, por otro, los cantos de sirena de las 3 o 4 empresas responsables de ella, que pretenden sacar tajada de la moda, como ha ocurrido con todas las burbujas desde la de los tulipanes en el siglo XVII.
Los empresarios no tienen ni pajolera idea de lo que es una IA ni como funciona, pero si les dicen que la IA va a hacer el trabajo de 100 empleados gratis, se suben al carro. Y eso es un problema en sí mismo, porque los dueños de la IA quieren hacer ver que es buena, bonita y barata. Todo ello es falso.
Hay muchas cosas que son IA pero que el público general no identifica como tal.
En cualquier caso, el uso y abuso de la IA es una realidad, y viene acompañada por una narrativa polarizante. Por un lado esta la realidad de la IA, por otro, los cantos de sirena de las 3 o 4 empresas responsables de ella, que pretenden sacar tajada de la moda, como ha ocurrido con todas las burbujas desde la de los tulipanes en el siglo XVII.
Los empresarios no tienen ni pajolera idea de lo que es una IA ni como funciona, pero si les dicen que la IA va a hacer el trabajo de 100 empleados gratis, se suben al carro. Y eso es un problema en sí mismo, porque los dueños de la IA quieren hacer ver que es buena, bonita y barata. Todo ello es falso.
Hay muchas cosas que son IA pero que el público general no identifica como tal.
Todos los videojuegos tienen IA, simplemente que el enemigo persiga al protagonista, o que intente rodearle para atacarle por la espalda, es IA (muestra signos de inteligencia sin una persona detrás). De hecho, el último Kingdom Come: Deliverance ha recibido unas criticas excelentes por dotar a los PNJs de rutinas dependiendo de la hora del día y cambando su actitud si ven merodear al protagonista por la zona, incluso yendo a comprobar si las puertas están cerradas o si falta algo en sus cofres. Eso es IA, pero no es más que una tabla de decisiones con distintos activadores. Una cosa curiosa con las IAs de los videojuegos es que muchas veces es más fácil hacerlas más tontas, ya que "la maquina" tiene una puntería perfecta y siempre sabe donde estas, porque que el juego sepa donde está tu personaje es parte esencial del juego. El juego sabe jugar al juego mejor que tú, pero eso no es inteligencia, es trampa. Supongo que en el GTA pretenderán añadir más variedad a la tabla de decisiones, pero cualquier cosa que hagan solo tendrá sentido si está el personaje jugador para verlas. No tiene sentido mantener vivo un mundo que nadie experimenta.
A partir de ahí la IA se ha usado en infinidad de sitios para automatizar tareas repetitivas. El problema actual viene por dos ejes, el primero es que con la globalización de internet ha surgido la idea de que "lo que hay en internet no es de nadie" y si no tienes un departamento legal velando por tu marca, estas vendido. Y ya el mismo Google se ha usado durante años como "oráculo" preguntándole cosas de las que no tiene ni puñetera idea, pero que te acababan llevando a un post en un foro donde se mencionaba algo que encendía la chispa.
El segundo eje es la Revelación de Sturgeon; comúnmente enunciada como "El 90% de cualquier cosa es basura"*. Antes, en sus orígenes, internet era un antro de frikis y la información que corría por él era en su mayoría cierta, y si alguien encontraba un dato dudoso podía corroborarlo fácilmente. Ahora todo el mundo tiene acceso a internet, para lo bueno y para lo malo. Y uno de los mayores problemas de internet es que se esta convirtiendo en la Biblioteca Universal (La de Kurd Lasswitz o la de Borges, usted elige) donde, al estar todos los libros posibles, habrá uno donde se diga que cualquier cosa es cierta y al lado otro que lo desmienta, y luego uno más que empiece con el primer acto de Macbeth y a partir de la tercera pagina solo "mozzarella, mozzarella, mozzarella" (la conocida teoría del millón de monos).
A partir de ahí la IA se ha usado en infinidad de sitios para automatizar tareas repetitivas. El problema actual viene por dos ejes, el primero es que con la globalización de internet ha surgido la idea de que "lo que hay en internet no es de nadie" y si no tienes un departamento legal velando por tu marca, estas vendido. Y ya el mismo Google se ha usado durante años como "oráculo" preguntándole cosas de las que no tiene ni puñetera idea, pero que te acababan llevando a un post en un foro donde se mencionaba algo que encendía la chispa.
El segundo eje es la Revelación de Sturgeon; comúnmente enunciada como "El 90% de cualquier cosa es basura"*. Antes, en sus orígenes, internet era un antro de frikis y la información que corría por él era en su mayoría cierta, y si alguien encontraba un dato dudoso podía corroborarlo fácilmente. Ahora todo el mundo tiene acceso a internet, para lo bueno y para lo malo. Y uno de los mayores problemas de internet es que se esta convirtiendo en la Biblioteca Universal (La de Kurd Lasswitz o la de Borges, usted elige) donde, al estar todos los libros posibles, habrá uno donde se diga que cualquier cosa es cierta y al lado otro que lo desmienta, y luego uno más que empiece con el primer acto de Macbeth y a partir de la tercera pagina solo "mozzarella, mozzarella, mozzarella" (la conocida teoría del millón de monos).
Esto es lo que se conoce como la Teoría del Internet Muerto; la idea de que entre bots, algoritmos y deepfakes hay tanto ruido que cualquier dato se diluye. Ya no puedes confiar en nada. La Wikipedia es editable por cualquiera e incluso los artículos protegidos están protegidos por alguien que considera que esa edición es la correcta. Los libros se nutren de internet, por lo que si internet está equivocado, nadie lo sabrá hasta que se consulte el libro pre-internet original.
 |
| "Replica esta imagen exacta sin cambiar nada 100 veces" |
La IA sigue un camino iterativo de combinar cuantas más cosas mejor para "generar" algo nuevo canibalizando su propio contenido para destilar una nueva iteración sin crear nada original. Muchos lo comparan al aprendizaje humano, sin caer en la cuenta (u obviándolo de forma premeditada) que la IA es una maquina, y las máquinas son herramientas. No sienten ni padecen, por mucho que las humanicemos y nos entretengamos en debatir en qué consiste la consciencia (un pensamiento espontáneo de cualquier programa es tachado de bug y corregido, como demuestra Ghost in the Shell).
Hoy por hoy a las IAs se les piden cosas concretas, y solo esas, y si no las hacen bien, vuelves a pedírselas; lo que me lleva a tu visión de El Señor de los Anillos en tiempo real ¿puedes preguntar a una IA qué estaba haciendo Gandalf o Ril Guroth, cuarto señor de Pino Negro? Sí, pero se lo va a inventar, como me lo acabo de inventar yo. Y ahí tienes dos opciones: que te guste lo que se ha "inventado" la IA o que no; exactamente igual que puede gustarte lo que escribió Tolkien o lo que dirigió Jackson. No es ninguna ventaja utilizar la IA porque no será lo que pensaba Tolkien, sino lo que invente alguien ajeno (y, de nuevo, primero ha de ser capaz de desarrollar un personaje coherente con el mundo, sin contradicciones o absurdos).
Precisamente en uno de los últimos videos de muestra de un robot de Musk, saltó la polémica porque no era el robot el que hacia las cosas, sino un controlador por remoto. ¿Quién te dice a ti que lo que te dice ChatGPT que demuestra tanto sentimiento y humanidad no lo ha escrito un señor paquistaní, porque hay que convencer a los inversores de que los resultados serán 300 veces más impresionantes que lo que la maquina es capaz de hacer? El humo no solo se vende de puertas para fuera.
Mi mayor cura contra el solipsismo fue ir en transporte publico a trabajar durante años. Al final, en el metro acabas viendo a la gente, están los habituales que van todos los días, los que van un día a la semana.. pero también están los aleatorios, gente que solo viaja ese día a esa hora y no vuelves a verles más. O si pierdes el tren y coges el siguiente ¡está poblado por otros centenares de personas, completamente distintas de las anteriores! Cada una con una vida, una ropa, unos gustos, todo distinto, o igual, pero no uniforme, sino algunos iguales pero distintos de otros. Mi imaginación no es capaz de inventarse todo eso si yo fuera lo único real. ¿Por qué iba mi cerebro a "crear" todos los tipos de cordones existentes solo por si a mí me da por mirar los cordones de alguien en el metro una mañana de enero en Madrid? Pues una IA que contemple todo lo que conlleva un mundo, para el disfrute de una única persona es un derroche inaudito de recursos.
Mi mayor cura contra el solipsismo fue ir en transporte publico a trabajar durante años. Al final, en el metro acabas viendo a la gente, están los habituales que van todos los días, los que van un día a la semana.. pero también están los aleatorios, gente que solo viaja ese día a esa hora y no vuelves a verles más. O si pierdes el tren y coges el siguiente ¡está poblado por otros centenares de personas, completamente distintas de las anteriores! Cada una con una vida, una ropa, unos gustos, todo distinto, o igual, pero no uniforme, sino algunos iguales pero distintos de otros. Mi imaginación no es capaz de inventarse todo eso si yo fuera lo único real. ¿Por qué iba mi cerebro a "crear" todos los tipos de cordones existentes solo por si a mí me da por mirar los cordones de alguien en el metro una mañana de enero en Madrid? Pues una IA que contemple todo lo que conlleva un mundo, para el disfrute de una única persona es un derroche inaudito de recursos.
Lo que nos lleva al siguiente problema. La IA es cara; entrenar una IA es caro; alojar una IA es caro. Desde el boom del 2.0, la nube (que en palabras de un sabio "es el ordenador de otro") y ahora la IA, los centros de datos de todo el mundo han estado creciendo. La IA no esta "ahí", esta en CPDs gigantescos que son muy caros de mantener ¿durante cuanto tiempo pensáis que va a seguir siendo "gratis"? como todo en el capitalismo, una vez que acaben con la competencia, estaremos vendidos. A las empresas no les sale a cuenta crear IAs, como a las farmacéuticas no les sale a cuenta desarrollar medicamentos; prefieren coger algo ya entrenado/desarrollado y comercializarlo.
Sí, hay modelos de IA que puedes entrenar en tu casa, pero la potencia que necesitan para ser "rápidas" es muy alto, y ya las empresas de tarjetas gráficas se están lucrando, como hacen siempre que hay un nuevo invento que exige procesamiento a saco. Primero fueron las Bitcoins, ahora la IA, el año que viene Dios sabrá. Luego dedica el tiempo y los recursos a entrenarla. Tampoco interesa que los modelos o el código sea eficiente; en el mundo de la programación, como el almacenamiento "es gratis" puedes permitirte programar spaghetti y echarle Gigas al programa, que si se queda corto ya se comprarán un disco duro más grande. Lo mismo para al gráfica o la RAM.
Si tiramos del hilo hay 3, quizás 4 empresas detrás de este boom. No es algo que se haya "democratizado" y que cualquiera puede tener, es un oligopolio que controla los modelos y luego una miríada de caras con distintas aplicaciones.
Una cabeza de la Hidra es la parte generativa (sea audio, video, imagen o texto) todas funcionan de forma similar: tu les enseñas una cosa y le dices lo que es, luego le enseñas otra y le preguntas si es la misma o una diferente. Si acierta, le das una recompensa, si no, le penalizas. Con las suficientes muestras puede parecer que "aprende" a distinguir las cosas y cuando le pides que haga algo de una manera concreta puede "hacerlo" pero no esta haciendo otra cosa que dar palos de ciego, por si cuela.
Si todo el contenido generado por IA siguiera las normas de Creative commons yo no tendría ninguna pega. Entrenas a tu IA con material autorizado y el resultado tiene la misma licencia que el original, por mi, perfecto. El problema, y este NO es un problema de la IA, sino de las corporaciones que la controlan, es que se ha permitido entrenar a las IAs con lo que les ha dado a ellos la gana, incluso con 80 TBs de libros de una conocida pagina pirata (y encima ofuscándolo para evitar compartir los archivos siguiendo las normas del protocolo torrent. Con lo que no solo robaban a los autores originales sino que se beneficiaban del colectivo pirata). La avaricia corporativa es lo que amenaza con la perdida de los empleos, no la IA.
La segunda cabeza son los asistentes, básicamente chat-bots como los de toda la vida.
Yo fui teleoperador una vez, y la IVR es una IA en su concepción más básica. Interpreta la voz del usuario y le redirige en función de las respuestas. Llegado un momento, la gente se hartó de "los robots" y exigieron que cuando llamaras a algún lado te atendiera una persona. Los asistentes tipo Cortana, Siri, etc funcionan de la misma forma. Pueden dar respuestas en función de determinadas claves, pero no pueden ponderar una pregunta y dar su opinión. Sumémosle a eso el "efecto horóscopo" que, si haces afirmaciones lo suficientemente genéricas, la gente se sentira identificada con ellas desestimando lo que no encaje, y ya tenemos el "Ha acertado casi todo, es un crack" que le da un halo de misticismo a la IA.Pero ojo, el asistente quiere permiso a todo, para gestionar tu correo, tu calendario, tus chats; y promete que no va a chivar nada de lo que vea a sus creadores. Palabrita.
Dice el adagio que un programa hace lo que le pides que haga, no lo que quieres que haga. No soy programador, pero he tenido asignaturas de programación y puedo asegurar que es totalmente cierto. Cuando un programa tiene un bug es porque el programador lo ha puesto ahí. Sin querer, por supuesto, es solo un resultado indeseado de lo que el programador le ha dicho al programa que haga, pero en última instancia, es obra del programador. Como aquellos escritores que se defienden diciendo "no es eso lo que quería poner" o "no tenia espacio para aclararlo más" Muchacho, es TU libro, no habría nada en él si no lo hubieras puesto tú. Si escribes un personaje racista es porque quieres, si justificas a un villano, lo justificas, y si no te da el espacio para una explicación, créalo de la nada, porque las paginas son infinitas.
Mi previsión para la IA es más o menos la misma que para la IVR. Puede que haya un bache, que muchas empresas se crean lo que les cuentan y cedan a la IA, pero cuando los productos creados por la IA demuestren la falta de calidad que por supuesto tendrán (ya que la IA no puede innovar si no le dices cómo) se volverá a valorar el trabajo humano.
Los empresarios llevan mucho tiempo sacrificando calidad por beneficios, así que la IA es la respuesta ideal para ellos. Pero la IA no es la panacea. Sin alimentación artística, se estanca, y una vez que el público la rechace, se dejará de invertir en ella. Si como consumidores no consumimos material con IA, la IA dejará de ser rentable. Pero sí, como bien dices es esencial que se regule y etiquete el contenido con IA, o directamente que no se permita enriquecerse con él. Ya estaba llorando el CEO de OpenAI el otro día diciendo que si se tenía que compensar a todos los autores, dejaba de ser rentable. Lo que demuestra que sabían lo que hacían en todo momento.
Cuando hablas de IAs Certificadas me cuesta imaginar el concepto. ¿Cómo se podía certificar que una IA actúa "como un humano"? Ahí entra un nuevo problema de las IAs, el sesgo. Cuando entrenas a una IA, tú le das una tarea y tú la recompensas o castigas en función del resultado, con lo cual cuanto más complejo sea evaluar el resultado, más difícil es ser justo. Eso lleva a que el sistema desarrolla sesgos, como infrarrepresentar a las personas de color cuando se pida un imagen de una persona genérica. O sobrerrepresentar un canon concreto de belleza ¿Qué debe devolver la IA cuando le pidan una imagen de una "mujer hermosa"?¿Quién evalúa eso? El entrenador. Y bastante malo es cuando el sesgo es accidental, porque sabemos que la gente mala siempre esta intentando poner palos en las ruedas y ¿Quién te dice a ti que esa infrarrepresentación no es intencionada?
Y de nuevo, la frase más repetida "Aquí viene otro problema con la IA". Tecnológicamente las IAs son lo que se conoce como Cajas Negras, que vienen a ser sistemas donde entra una cosa y sale otra, pero no se sabe cómo ha ocurrido la transformación entre una y otra. Las redes neuronales se modifican con unos parámetros que la propia IA optimiza para dar en el clavo más a menudo, pero no se puede saber cómo llega a la conclusión a la que llega. Aquí dejo un video de los orígenes de la propia OpenAI donde enseñaron a una IA a jugar al escondite.
"Que nos come la IA!" La IA lleva comiéndonos desde 1983, cuando en Juegos de Guerra crean una IA para encargarse de la gestión de misiles nucleares estadounidenses y decide que el mayor peligro para la humanidad es la propia humanidad y pretende cargársela. O tal vez desde 1967 cuando Harlan Ellison escribió No tengo boca pero debo gritar, donde una de las 3 AMs (Allied Mastercomputer) creadas para controlas tropas y calcular ofensivas en una hipotética tercera guerra mundial, toma consciencia de sí misma y se venga de sus creadores en un holocausto nuclear. Pero como hemos dicho, una maquina hace lo que le dicen que haga, y lo que tiene capacidad de hacer. Ninguna IA puede lanzarte misiles si no la conectas a un lanzamisiles y ninguna IA puede quitarte el trabajo si tu jefe es un ser humano decente. El enemigo nunca ha sido la IA, como tampoco ha sido nunca la salvadora, solo una herramienta que se esfuerza activamente en hacer mejor su trabajo dentro de su programación.
- La Frase de Hoy: ¿Jugamos a un juego? W.O.P.R aka Joshua (Juegos de Guerra, 1983)
- Para el que no lo Sepa: *Realmente, lo que Theodore Sturgeon, autor de clásicos cómo "Más que humano", dijo es "Es innegable que hay una gran cantidad de basura en la ciencia ficción, pero no en mayor medida que la basura que hay en cualquier otro campo".
