Sam Altman MIENTE y Elon Musk es BASURA 🧠🤖 - Cathy O'Neil Matemática del MIT | Podcast IA #9 3dz4h

La inteligencia artificial está basada en algoritmos y los algoritmos son desarrollados por matemáticos.

Hoy cuento con la oportunidad de hablar con una de las personas más prominentes en este campo, Kathy O'Neill. Ella no es sólo doctorada en matemáticas en Harvard y ha sido profesora en el MIT, sino que es la autora del bestseller Weapons of Math Destruction, uno de los libros más vendidos sobre el tema de los algoritmos y el Big Data.

La traducción en español es armas de destrucción matemática y eso lo dice todo sobre su opinión de los algoritmos. Es muy importante entender que dejar a la inteligencia artificial tomar decisiones basadas en esos algoritmos que están sesgados por el entrenamiento puede ser un problema muy importante.

Este podcast está grabado originalmente en inglés, si prefieres escucharlo en español puedes acceder a la versión doblada a través del enlace en la descripción.

Las decisiones se basan en cosas como el APR en tu cartel o la cantidad que pagas por la insurancia o si deberías ser aceptado para la universidad.

Las excepciones son importantes, pero las excepciones son como Google Search o las engines de recomendación, como si te recomendaban un filme en Netflix o posiblemente lo que deberías recomendar en Instagram o TikTok.

Las excepciones son más amplias, pero no tan amplias como Gen AI.

Gen AI es aún más amplia.

Es interesante para mí porque es una de las máquinas de hype más intensas.

No es en sí misma una máquina de hype, pero es acompañada por la máquina de hype de marketing que he visto desde que Big Data se reinventó más de 10 años atrás.

No hemos visto tanto marketing sobre ningún producto, como con algunos de los grandes, como Big Data o el cloud, o el internet en sí mismo, como el .com.

Pero al final del día, recuerdo escuchar a Max Tegmark de MIT, probablemente no sé si estabas ahí al mismo tiempo, pero recuerdo que él decía que no debemos confundir el hype de los productos y las empresas siendo sobrevaluados con el coreo de la tecnología, porque el internet cambia nuestras vidas y aún así.

Quiero decir que el hype no significa que no es útil o que va a ser socialmente cambiante.

Sí, yo aprecio a Gen AI como una herramienta revolucionaria para Google Search.

Google Search cambió nuestras vidas, porque hasta entonces todo lo que teníamos era Alta Vista y no podíamos usarlo, no era tan útil.

Pero una vez que Google Search se presentó, pudimos encontrar la información en el internet y empezó todas las posibilidades, como que todos los páginas de bulletins eran accesibles.

Teníamos Wikipedia, así que realmente teníamos información a los dedos de un nuevo modo.

Y creo que cuando pensamos en ajustar a Gen AI, debemos pensar en cómo nos ajustamos a Google Search.

Fue revolucionario, pero no cambió tanto quién éramos.

Pero al final es un cambio cultural, porque hacemos cosas diferentes de lo que hacemos ahora, debido a este tipo de tecnologías.

Bueno, me gustaría pausar ahí.

Siento que podríamos decidir cuánto es una revolución, especialmente si estamos conscientes del hipótesis alrededor de Gen AI.

Una de las cosas que me gusta enfatizar cuando hablo a la gente sobre Gen AI es la extensión a la que se ha diseñado para hacernos confiar, cuando de hecho no es realmente...

Bueno, primero, no es confiable.

También no es consciente.

También es, en algún sentido, repacar lo que ya tenemos de Internet y Google Search y Reddit.

Lo repacamos de una manera que debería triggerar nuestra confianza.

Pero si lo pensamos de esa manera, como una versión conversacional de Reddit, no es tan grande un acuerdo.

Sí, la cosa es que realmente suena...

Lo que dice es que suena bien.