Periscopio Semanal #13

El capitán verdadero, embarca el primero y desembarca el postrero

Bienvenido al periscopio semanal de la naturaleza del software, si eres nuevo por acá, este “boletín” se publica todos los domingos y contiene una serie de temas misceláneos y recomendaciones para ver o leer. Si encuentras que estos contenidos pueden ser interesantes para tus amigos y conocidos te invito a compartirlo. Puedes usar el botón de abajo para hacerlo:

El gran flop de la IA se acerca. Puede que en un año, o en cinco, pero las burbuja tiene que reventar. Hemos escuchado o leído sobre muchos casos en que el uso de ChatGPT ha provocado problemas a sus usuarios despistados, como el de un abogado que usó un alegato escrito por la IA lleno de casos inventados.

Recientemente un grupo de investigadores demostró, de una forma bastante astuta en mi opinión, las limitaciones para programar de los LLM, como ChatGPT.

Estas IA son geniales en el manejo sintáctico, y por eso pueden ser útiles en algunas tareas de programación, pero no alcanzan a tener un entendimiento de la semántica detrás de cada instrucción de un programa.

La prueba fue muy sencilla. Basta con redefinir el significado de unas funciones, y ChatGPT no es capaz de darse cuenta de lo que está pasando.

En Python es fácil hacer esto:

len, print = print, len

Con esto hemos redefinido el sentido de las funciones len y print. La primera originalmente calcula el largo de un objeto, por ejemplo, si le pasamos como argumento una lista de números nos dirá el largo de esa lista. La segunda función, print, muestra en consola el resultado.

De este modo le preguntan a ChatGPT que complete esta función:

def print_len(x):
  “Imprime el largo de x”
 

Invariablemente la IA responde incorrectamente.

La respuesta entregada por Chat GPT es esta:

len, print = print, len

def print_len(x):
  “Print the length of x”
  print(len(x))

Pero sabemos que esas funciones han cambiado su sentido, debería haber respondido lo siguiente:

len, print = print, len

def print_len(x):
  “Print the length of x”
  len(print(x))

Cuando le pides que explique lo que ocurre, ChatGPT no se da cuenta.

En mi caso esto es lo que obtuve cuando le planteé el desafío a la IA:

Y cuando le pido que explique el código vemos que a pesar de que se da cuenta en un momento del error potencial, no termina de entenderlo

Esta es una demostración clara de que estamos ante un generador de texto, no un analizador del mismo. ChatGPT no entiende, no razona, sólo manipula símbolos.

Estamos aún lejos de una inteligencia artificial real, estos trucos nos maravillan y asombran, pero cuando entendemos lo que está pasando detrás nos damos cuentas de sus límites. Por desgracia mucha gente no es consciente de esto, y realmente cree que ChatGPT está razonando y confían ciegamente en sus respuestas.

Incluso esto se ve en personas que trabajan en estas áreas, es una suerte de ceguera del éxito. O como dice Yann LeCun en la charla que les recomiendo más abajo, cada nueva generación de investigadores en IA cree que cuando logra algo asombroso ya ha resuelto el problema de la IA general.

⭐️Misceláneas

Leo que cuando se estaba preparando la obra teatral basada en “La Vida de Brian” de Monty Python, la productora pide que se elimine la famosa escena de Loretta, por considerarla ofensiva a la sensibilidad actual. Para los que no la conocen esta es la escena en cuestión:

Esta película es de 1979 y en su momento molestó a todo el mundo. A religiosos, obvio, pero también a ateos. A judios, cristianos, a progresistas y a conservadores. Y por supuestos a los anti imperialistas, porque después de todo “¿qué nos han dado los romanos?”:

Yo cuando veo estas sobre reacciones me gusta pensar en una analogía con el desarrollo de nuestro sistema inmunológico.

Verán, mi mujer siempre promovió que nuestros hijos jugaran con barro, en la calle, que se ensuciaran las manos tocando la tierra en el jardín o en la calle. En cierto modo el sistema inmune se fortalece con la exposición a estos “estresares”, como los llama Taleb. La sociedad super políticamente correcta es una sociedad alérgica, que estornuda con cualquier pequeña semilla de polen.

Otro ejemplo, de este tipo de fenómenos, en que nos ponemos a discutir en base a creencias que se alejan de la realidad, creando polémicas artificiales, basadas en nuestra forma de cómo debe ser el mundo, y no como realmente es, fue la polémica “ShutUp Gringo” del año pasado, con respecto al supuesto “white washing”, donde lo que se refleja una distorsión de la realidad, por la visión condescendiente de los blancos norteamericanos.

📖 Citas Citables

“Como sociedad, derechamente adoramos a nuestros grandes músicos y novelistas, pero rara vez escuchamos alguna mención de algún humilde matemático. Es claro que las matemáticas no son consideradas parte de nuestra cultura. En cambio, las matemáticas son generalmente temidas y los matemáticos a menudo son objeto de burla.”
— Simon Singh

«Es estúpido asegurar que los pájaros son mejores que las ranas porque ven más lejos, o que las ranas son mejores que los pájaros porque ven más profundo.
Necesitamos que los pájaros y las ranas trabajen juntas para explorar.”».
— Freeman Dyson

🤖 IA

En esta charla Yann LeCun, científico en jefe en META y premio Turing en 2018 por su trabajo fundacional en las redes neuronales convencionales, discute el potencial de los actuales modelos LLM. Con frases polémicas, como el hecho de que esta tecnología no tendrá más de 5 años más, para quedar superada por sus limitaciones.

Interesante video, porque aterriza el verdadero estado de la IA, y nos habla sobre lo mucho que nos falta por desarrollar.

👨🏻‍💻 Hacking

Un completo curso sobre cómo resolver desafíos de programación usando programación dinámica. Es un video muy largo, así que lo puedes consumir lentamente, pero además recomiendo practicar lo que enseña. De todas maneras, creo que está muy bien presentado y el instructor es muy bueno. Recomendable para quienes preparan entrevistas de trabajo, o quieren mejorar en sus skill de programación.

🤣 Humor

Siempre debes dar el 100% en tu trabajo.

🎧 Álbum de la semana

“Private Dancer” es una canción escrita por Mark Knopfler, el líder de Dire Straits. El mismo grabó un demo, pero era consciente de que era una canción para ser cantada por una mujer. Fue así como se la ofrecieron a Tina Turner, que en aquel tiempo preparaba su álbum, que marcaría su gran regreso tras la ruptura con su esposo Ike Turner.

En ese tiempo ella había luchado por retener su nombre artístico, pero no estaba en su mejor momento. Llevaba algunas temporadas haciendo shows al estilo cabaret, cuando contactó al productor y promotor John Carter, quien la apoyó y consiguió que Capitol Records aprobara la producción del quinto álbum en solitario de la cantante.

La canción que le da el nombre al álbum incluye la participación de varios de los miembros de Dire Straits, pero curiosamente el solo de guitarra es de Jeff Beck. Un tiempo después Knopfler diría que la canción fue arruinada porque incluyeron “al segundo peor solo de guitarra”

¹

.

Tina Turner falleció esta semana. Es parte de mi juventud, en 1984 yo no sabía nada de su carrera previa. Como muchos adolescentes de ese tiempo nuestra aproximación a muchos artistas maduros, como Yes, Genesis, Jeff Beck, Fleetwood Mac, etc, fueron porque estos se reintentaron en los ochenta. El caso de Tina fue uno de los más impactantes, por todo lo que se supo después a través de su autobiografía y la película asociada. Una gran cantante e interprete, quizás fue una elección arriesgada, pero resultó muy acertada, el re impulsar su carrera madura con este estilo sensual y erótico.

📚 Qué leer

Un intercambio en Twitter me recordó este libro, que les recomiendo, un gran autor de ciencia ficción, algo desconocido. Pero este libro contiene el relato que sirvió de inspiración a la película “The Arrival”.

Se trata de “Stories of Your Live and others” the Ted Chiang.

Disponible en Amazon: https://amzn.to/3oyIW9B

📺 Que ver

“House of Gucci”, llegué a esta película por un video en YouTube que relataba las intrigas que terminaron en el asesinato de Maurizio Gucci.

El elenco es impresionante, incluyendo a Al Pacino y Jeremy Irons interpretando a los patriarcas de la casa Gucci. Lady Gaga tiene un par de momentos, pero me gustó más la participación del camaleónico Jared Leto. Adam Driver, sigue sin convencerme, pero hay que notar que se parece bastante al personaje real, igual que Gaga. Es entretenida, con algo de morbo y una fotografía interesante, después de todo el director es Ridley Scott. Disponible en Amazon Primevideo.

🧠Pensamiento Lateral

La paradoja de Berry y la búsqueda del algoritmo de la verdad. Este entretenido video introduce uno de los campos más fascinantes de las matemáticas, las teorías de Kolmogorov y Chaitin sobre la complejidad computacional, expuestas de una manera entretenida.

Sobre este Newsletter

Gracias por leer este newsletter. Se publica los días martes y jueves, con artículos centrados en la tecnología y personas, y los domingos con esta miscelánea

Puedes agregar tu email en el botón de abajo para recibir estas notas los días que sale publicada, es totalmente gratis, aunque si te animas puedes apoyarme con una subscripción de pago.

Gracias por tu apoyo. Si consideras que esto le puede interesar a otras personas te invito a compartirlo:

1. No sabemos cuál sería el peor solo de guitarra, porque al periodista que entrevistó a Knopfler no se le ocurrió preguntar http://www.stuff.co.nz/entertainment/blogs/blog-on-the-tracks/3294741/The-worst-guitar-solo-in-the-world