Software 2.0 154p3y

Felipe es investigador científico senior en la empresa Layer6.ai, donde entre otras cosas han desarrollado un sistema que permite mejorar la arquitectura Transformer mediante análisis matemático. Felipe nos cuénta que preguntas se hacen para mejorar una arquitectura tan sofisticada y cómo se meten en ese terreno. No sólo es posible que una empresa haga investigación básica en inteligencia artificial, sino que además deberíamos de tomar nota...

Respondo a estas preguntas que me hacéis por twitter: Una vez acabada la carrera de ingeniería informática, ¿crees que es fácil coger experiencia en España, o mejor salir fuera de España? Estamos a final de año y posiblemente que te estas planteando objetivos para el 2021. Seguro que el primero es el máster del Instituto de Inteligencia Artificial ¿Cuál es el segundo? ¿a quién te gustaría entrevistar en #software2.0 a nivel nacional e internacional? Tres personas que crees pueden ser referencia y que hay que seguir en 2021. Si están en Twitter, mejor. ¿Qué cosas que parecen chorradas luego a la larga son importantes? Veo en una competición en Kaggle que están utilizando cierto tipo de red con resultados aceptables; pero intento reproducir el experimento y no chuta. Pregunta: en estos casos ¿cómo haces tu la depuración de la red? Lo que más te costo aprender (a nivel teórico) hasta llegar al punto de conocimiento de Inteligencia Artificial que estás ahora. El hecho de que las redes neuronales se basen en correlaciones, que como sabemos no implican causalidad, seguro que en ocasiones debe llevar a resultados totalmente erróneos. ¿Alguien ha medido cuán a menudo se da esa situación? ¿Conoces alguna curiosa? Si te fueras a adentrar en el mundo de la Inteligencia Articial actualmente ¿cuál crees que son los mejores pasos a seguir tras terminar la carrera? ¿Cuáles son los pasos que recomendarías por experiencia propia? ¿Cuál crees que sería el hardware ideal para montar tu primera plataforma en casa y no depender del cloud? ¿U, GPU, memoria, disco duro, refrigeració, sistema operativo, etc? Hardware: ¿AMD o Intel? ¿Mayor cantidad de núcleos en la U o menos cantidad con mayor frecuencia? ¿En qué test de U debo fijarme a la hora de escoger una U? En caso de los de gaming abundan los test pero no sé cuál sería el que más se ajustaría para Inteligencia Artificial. ¿Cuál es la versión específica de Ubuntu que mejor está preparada para aprendizaje automático e Inteligencia Artificial? Debido a los altos precios de piezas, hay una tendencia a usar Kits Chinos Dual Xeon, los cuales usan U de servidores dados de bajas, permitiendo tener gran cantidad de núcleos a un precio contenido ¿Qué piensas de ellos? ¿Has probado Aprendizaje automático punto NET de Microsoft o algún otro framework para trabajar en punto NET o tienes alguna referencia de su rendimiento y escalabilidad? ¿Conoces alguna forma de aprender teoría de aprendizaje automático sólo mediante audio (estilo podcast)? Entre alguien con un buen perfil en Kaggle y alguien con experiencia en la industria, ¿a cuál contratarías? ¿Es mejor centrarse en un área de aprendizaje automático (por ejemplo datos tabulares, visión por ordenador, procesado de lenguaje natural) o aprender de todas? ¿Qué tipo de problemas o retos son más susceptibles de abordarse con éxito mediante inteligencia artificial? ¿Cuáles son más interesantes? ¿Cuáles no pueden abordarse mediante Inteligencia Artificial? ¿En qué sectores la irrupción de la Inteligencia Artificial va a suponer un cambio mayor? ¿En cuáles no tendrá incidencia? ¿Crees que visto el avance de tecnologías como aprendizaje por refuerzo en un futuro próximo muchas tecnologías actuales de Inteligencia Artificial desaparecerán? ¿Como aprendizaje profundo? La tendencia es datos, datos, datos y poder de computación... ¿pero quizá el camino es “diseño”? Todo es predecible (según Elon Musk) por lo tanto ¿será la Inteligencia Artificial un día capaz d predecirlo todo? ¿O por el contrario hay un limite? ¿Qué no es predecible? ¿Hay posibilidad de elección? ¿Somos sólo patrones y la Inteligencia Artificial lo tiene muy fácil con nosotros? ¿Crees en l libre albedrío? ¿Puede una Inteligencia Artificial tenerlo? y más...

¿Qué es la ética? ¿Cómo se puede conseguir una inteligencia artificial ética? ¿Qué es un algoritmo justo? A medida que no sólo la inteligencia artificial sino la algoritmización de decisiones cobran más protagonismo en nuestras vidas estas preguntas se vuelven más relevantes y las respuestas no son sencillas (al menos para mí). Tenemos el honor de contar con Joaquín Quiñonero, Distinguished Tech Lead for Responsible AI at Facebook (Distinguido Líder técnico para una IA responsable en Facebook) quién nos hablará de justicia, algoritmos, sesgos y -mi opinión- el hecho de que si bien la inteligencia artificial nos puede ayudar a responder muchas preguntas tenemos que asegurarnos recurrentemente de que las preguntas que formulamos son las adecuadas (algo que -por ahora- no hace la inteligencia artificial). Joaquín se ha ofrecido para continuar la conversación en otro futuro episodio, pero mientras tanto podéis escucharle (en inglés) en https://soundcloud.com/wandb/joaquin-candela?in=wandb/sets/gradient-dissent-machine

En Corea del Sur una empresa (https://www.riiid.co/en/main) ha desarrollado un tutor basado en Inteligencia Artificial ("IA Tutor") que ayuda a los alumnos a tener un itinerario personalizado para aprender inglés. Acaba de terminar una competición en Kaggle en la que 3400+ equipos compitieron por obtener el sistema que mejor prediga si un alumno va a responder bien o mal a la siguiente pregunta que se le ponga. Javier Martín (https://twitter.com/info_libertas) y servidor competimos en dicha competición dónde nos quedamos en tercer lugar. En este episodio contamos el desarrollo de la competición, las motivaciones, técnicas y problemas con las que lidiamos para llegar a nuestra solución que describimos aquí: https://www.kaggle.com/c/riiid-test-answer-prediction/discussion/209585 Además desvelamos la técnica a la que apodamos "El pistolero ciego". Otros recursos que comentamos: Sistemas de Kai-fu Lee comenta que usan IA en educación: https://www.gradescope.com https://www.bakpax.com Cuentas de twitter: https://twitter.com/ak92501 https://twitter.com/lucidrains https://twitter.com/ykilcher Y por último el "Colombo" del episodio es el por qué de nuestro de equipo: "Noisy Students"

Victoriano Izquierdo es cofundador de Graphext, una herramienta que promete hacer accesible la extracción de información útil de datos sin necesidad de programar en R o en Python. ¿Qué información útil? Pues desde cómo agrupar votantes, clientes según tendencias hasta incluso los ingredientes del crimen perfecto (analizando datos de crímenes, sí). Al final del episodio hay un acertijo relacionado con el número: 0.739085.... y si quieres un "spoiler" en forma de código... ``` import torch import matplotlib.pyplot as plt %matplotlib inline max,res = 3,1000 xv, yv = torch.meshgrid(torch.linspace(-max, max, res), torch.linspace(-max, max, res)) m = torch.view_as_complex(torch.cat((xv.unsqueeze(-1),yv.unsqueeze(-1)),dim=-1)) f = lambda x:torch.cos(x) for _ in range(1000): m = f(m) mabs = m.abs() plt.imshow(torch.isnan(mabs)) ```

En este episodio de Software 2.0 conoceremos la experiencia de 8 personas que realizaron el I Master Ejecutivo en Ingeligencia Artificial, nos contarán su historia y cómo piensan aplicar la IA en sus parcelas profesionales que van desde el derecho, la medicina, la consultoría pasando por PYMEs y empresas de mayor tamaño, tanto locales como internacionales. 11:13 Aurelio López - Profesor Titular de Derecho Internacional Privado 23:40 Sandra Gomis - Neurocientífica 41:00 Gianni Cecchin - CEO, Verne Technology Group 55:29 Jose Navarro - Anestesiólogo 1:10:53 Fernando Pérez Blasco - Controller Corporativo, Alzis 1:23:05 Juan Pablo Niñoles - Director Tecnología e Innovación, EUROVAL Sociedad de tasación 1:37:17 José Angel López Mayoralas - Responsable de Estrategia y Desarrollo de Negocio EMEAR & APJC,Cisco Systems 2:03:44 Elad Rodríguez - CEO, Nitnets 2:27:01 Sopresa...

¿Conocéis a alguien que haya ganado cientos de miles de euros en competiciones de inteligencia artificial? Antes de esta semana yo no, pero ahora sí; y esa persona es Jordi Villar, que ha competido en dos plataformas de trading algorítmico ganando en total $350.000 tal cual describe en su artículo https://jordivillar.com/pursuing-non-conventional/ Jordi desvela que sus algoritmos encierran una sencillez casi paradójica y nos explica cómo funcionan Numerai y Quantopian.

Javi Santana ha sido emprendedor en Agroguía, desarrollador y CTO de Carto, ha trabajado en BBVA y ahora emprendedor de nuevo en Tinybird. Hablamos del desarrollo de software convencional (llamarlo 1.0 es casi irónico porque es prácticamente todo el software que existe), de lenguajes de programación, de qué es el Software 2.0 y dónde está en madurez respecto al software convencional. En la entrevista mecionamos: - Artículo de Marc Andreessen "Why software is eating the world" https://a16z.com/2011/08/20/why-software-is-eating-the-world con traducción: Por qué el software está devorando al mundo. https://docs.google.com/document/d/1-0dZepaeqStq6PtSdojEW9ApqlvOQrl7xGsixbRN9HA/edit?usp=sharing cortesía de http://IIA.es - Canal de directos en Twitch: https://www.twitch.tv/qualopy

Jeremy Howard is -along with Dr. Rachel Thomas- cofounder of fastai, a company that does research, development and education on deep learning, to make it more accessible. Jeremy discusses his latest book, how to get started on coding and deep learning and many other things like the why the future on deep learning may not be coded in Python (or based on Transformers).

Jeremy Howard es -con la Doctora en matemáticas Rachel Thomas- creator de fastai, una empresa que hace investigación, desarrollo y educación para que el aprendizaje profundo sea más accesible. En esta entrevista Jeremy nos habla de su libro (!), de como aprender a programar si no tienes estudios técnicos, del futuro del aprendizaje profundo (y por qué puede que no sea en Python o dominado por los Transformers). Esta es la versión con traducción al castellano. ¿Cuándo veremos sistemas que por ejemplo doblen con tu propia voz a otros idiomas? ¿Cuándo sistemas que mejoren ese acento que no tienes?

¿Puede un sistema de aprendizaje profundo simular la física mejor que el simulador que lo entrena? Alvaro Sánchez es investigador en DeepMind, dónde ha desarrollado varios trabajos que tratan de mejorar simulaciones físicas con técnicas de aprendizaje profundo. En este episodio, Álvaro nos explica por qué es importante este trabajo y desvela cómo lo hace. Seguimos sin saber si vivimos en una simulación, pero al menos podemos crearnos nuestras propias simulaciones.

A no ser que estés en una cueva sin internet te habrás enterado del revuelo que está generando GPT-3, un modelo generativo de texto, entrenado por la empresa OpenAI que supone (¿o no?) un paso hacia la inteligencia artificial general. No puedo entrevistar al mismísmo GPT-3 (y no creas que me interesaría demasiado hacerlo) pero sí hablar sobre las preguntas que habéis hecho por twitter: - ¡hazle una entrevista al modelo! - Comparativa con otras tecnologías de los últimos años en grado de posible impacto (similar a BitTorrent? ImageNet neural networks? Bitcoin? BERT?) - Limitaciones de la tecnología y motivos de que sea un api privada - Aplicaciones reales en empresas y startups - Y como empezar a utilizarlo ya, si es que se puede - Estaría genial una explicación pa cazurros como yo de las tripas del GPT-3 ¿un Transformer vitaminado? ¿Qué lo hace especial?¿Sólo el tamaño? - No te da la sensación de que se ha roto otra barrera, de que la IA ha superado otro hito? La gente habla de GPT-3 en el tono en el que se hablaba antaño con el ajedrez o con AlphaGo ("vale, ganará al ajedrez pero nunca podrá...." y esos "nunca podrá" van cayendo) ¿hay miedo? - Cual es el siguiente paso para GPT-4??Más cómputo??Mas parámetros???Más datos?? Dónde está el límite??? - Consciencia. ¿Es GPT-3 consciente de alguna forma? Tengo la sensación de que estamos cerca de alguna forma de consciencia - Cuanta energia fue necesario para entrenarlo? - ¿Vamos a tener que ir buscando trabajo los programadores a medio plazo? - Si se puede dejar desatendido (spoiler:no) - Ya sabemos que más datos y más parámetros mejoran el modelo, pero ¿hasta qué punto sigue siendo interesante entrenar estos modelos monstruosos que solo pueden poner en producción 4 empresas? - ¿Estado para otros idiomas distintos al Inglés? - Su aplicación para generación de imágenes. ¿Es posible usarlo para eso? - Sesgos de entrenamiento - ¿Se puede hacer fine-tuning no para tareas sino para idiomas? Aprovechar de alguna forma lo aprendido en inglés por el modelo para no tener que entrenar desde 0 un nuevo modelo en sueco, por ejemplo. - La cantidad de recursos que hace falta para entrenarla y si vamos camino de que el deep learning deje de ser "abierto". - 175B params es a ojo de buen cubero es 1Tb de memoria y no se si podría correr en U * cómo crees que lo han puesto en producción? * crees que veremos una versión mejorada que funcione en máquinas normales (1/100x) * que crees que se necesita para entrenar algo así? - ¿Se podrá poner el modelo estándar de partículas en términos que el embending permita transferirlo al GPT-3 ? Y así saber si el campo de Higgs es metaestable ... entre otras cosas.

La pandemia del coronavirus ha puesto encima de la mesa el uso de la tecnología para ayudar a la trazabilidad de os. La forma que se está probando de forma más extendida utiliza Bluetooth, y se puede implementar de forma centralizada o descentralizada. Las implementaciones centralizadas han generado suspicacias y una de las respuestas ha sido una iniciativa descentralizada llamada DP-3T, que lidera la española Carmela Troncoso, profesora de la Escuela Politécnica Federal de Laussane en Suiza. Privacidad, desmantelamiento, confianza y soberanía tecnológica son algunos de los temas que oirás si decides escucharnos; y no los oirás -al menos aquí- si no lo decides ;-)

Vicens Gaitan es uno de los competidores españoles en Kaggle de más reputación. Actualmente está en el TOP 100 a nivel mundial del ranking más exigente de Kaggle: el de las competiciones. Nos desvela parte de sus secretos, trucos y estrategias. Podéis ver su perfil aquí: https://www.kaggle.com/vicensgaitan

¿Está Europa abocada al declive en la época de la Inteligencia Articial? Luis Moreno y Andrés Pedreño han escrito un libro en clave económica profundizando en el diagnóstico y posibles recetas.

Carolina Jiménez es artista de efectos visuales, y con ella hablamos del papel de la tecnología en el cine, de los deep fakes (ultrafalsos), el verde chroma y damos un repaso a técnicas que ¿quizás? verán la luz gracias a la IA.

En neurociencia hace mucho que se especuló con la existencia de la neurona “de la abuela”, neuronas que se activan cuando vemos una foto de nuestra abuela, leemos o incluso si oímos su nombre. Rodrigo Quian Quiroga es el neurocientífico que descubrió en el cerebro humano las neuronas de concepto, siendo la más famosa la neurona de Jennifer Aniston, neurona que logró identificar y que se activa ante imágenes de la actriz Jennifer Aniston (también se identificaron neuronas de otras personas). Rodrigo nos explica dónde están estas neuronas, cómo el aprendizaje automático se inspira en lo que conocemos del cerebro; además conversamos sobre las diferencias entre las redes neuronales artificiales y naturales, y mucho más.

La asociación norteamericana de radiología (RSNA) organizó una competición que consistía en detectar hemorragias cerebrales dadas las imágenes de un paciente. Javier Martín, Cristian Martín y servidor participamos y nos quedamos en la posición #9 lo que supuso que nos invitaran a presentar cómo creamos nuestro modelo en la conferencia mundial de radiólogos que se celebra en Chicago. En este episodio contaremos cómo funciona una competición y cómo -contra casi todo pronóstico- logramos colarnos en el TOP 10.

En este episodio me preguntáis desde twitter un montón de preguntas que intento responder: Alvaro Correa ? Siendo ingeniero de software, como empezarías a estudiar y desarrollar temas de IA? Carla Romesan ? Has hablado varias veces de ello y en tu Twitter compartes varios recursos, ¿qué le recomendarías hacer a alguien que no tiene una base informática sólida para iniciarse en el mundo de la IA? ¿Crees que cualquier persona puede aprender y dedicarse a ello? Fernando Moreno-Pino ? Yo tengo curiosidad por saber cómo se valora en el sector privado español del ML el hacer un PhD antes de saltar a la empresa privada. Siendo alguien que trabaja en la empresa privada, ¿algún consejo para los estudiantes de doctorado? Enrique Zurita ? ¿Qué formación te darías a ti mismo si fueses hoy un niño? Tu hijo. No me refiero a programación en general, sino a habilidades, técnicas capacidades, más concretas para prepararte para el mundo que está llegando. Adrián García Ramos ? ¿Podrías recomendar un libro introductorio sobre biología para ingenierios? Me gustó mucho el podcast con Aurelia pero no pude seguir demasiado la estructura de secuenciación del ADN y otro temas porque no es mi área de conocimiento. Me encantaría entender el problema mejor. COMPETICIONES Javier Avellán ? ¿Cuántas palomas tienes para ganar tantas competiciones? Jose Carmona ? ¿qué estrategia estáis usando en DeepFake Challenge de kaggle? Antoni Gimeno ? En relación a la competición, como empiezas, como te decides que tipo de algoritmo, infraestructura, herramientas, compañeros de viaje, ... Jose Navarro ? ¿Qué criterios usas para participar en una competi u otra? ¿Si crearas una (cosa que estaría muy bien), qué temática elegirías y cuál sería su objetivo?. Jusepe ? Que recomendaciones serían adecuadas para empezar a competir en kaggel, teniendo en cuenta el nivel (muy top) y la cantidad de grupos que se presentan? Roberto Paredes ? Yo te preguntaría cosas de Kaggle. Horas invertidas, consejos, cómo ha evolucionado a lo largo del tiempo, la importancia del hardware y los equipos, etc. Carla Romesan ? También me gustaría que nos contaras tu experiencia en el mundo de las competiciones internacionales, en las que, además, has tenido excelentes resultados! Bravo Sanchinarro! ¿Consejos para alguien que quiere iniciarse en ellas pero todavía no tiene mucha idea de IA? EN LA PRACTICA Javi Santana ? Como crees que la IA y el desarrollo de aplicaciones de toda la vida pueden funcionar juntos (o casos donde esté funcionando). Iván de Prado ?Dentro del deep learning: ¿que técnicas/papers de los últimos meses te parecen más disruptivos? ¿Cuáles son los temas más prometedores según tu punto de vista? ¿Qué 10 personas en Twitter habría que seguir si o si? Nacho Gonzalez ? Casos reales cañeros que conozcas, desarrollados por un solo developer.Pregunta Macarra/Bruta/Pura Curiosidad: IA sin coders: ¿oximorón?¿existe algo hoy? ¿y a futuro? (¿Y tiene sentido que salgan servicios en esa línea?) Cual es la killer pregunta a hacerle un proyecto que dice que IA bla bla bla para detectar Bullshit en milisegundos Eduardo Manchón ? Si quiero hacer algo de IA en mi empresa, por dónde empiezo? Sí, todos tenemos data y mucha, pero cómo saber qué se puede hacer con ella? Qué puede dar resultado y qué no? Cuál es el primer paso razonable y concreto para trabajar en IA? Ejemplos concretos ayudarían. Cesar Riat ? como definis el precio para hacer una consultoria/ crear un modelo a empres/startups, que parametros tenes en cuenta para formar el precio ; tiempo q le dedicas, horas procesamiento etc? Isabel M. Perez ? Además de ingenieros, qué otro tipo de profesionales piensas que se van a necesitar para desarrollar IAs potentes? Adrián García Ramos ? ¿Cuáles han sido las aplicaciones de negocio usando AI (tuyas o de otros) mas interesantes que has implementado? Ricardo Pica: Como se afrontan proyectos de seguridad crítica? Primero desde el punto de vista técnico, y en caso de que sea posible, cómo se demuestra de cara a los "stakeholders" que puede usarse IA de forma segura? Los 2 ejemplos más claros: Coches autónomos, donde la vida de las personas está en riesgo y es la IA la que toma decisiones de forma autónoma. Cómo se demuestra, antes de ponerlos a circular, que es más seguro que una persona conduciendo. En medicina ya se habla de diagnóstico, pero será un doctor el que decide. Qué haría falta para que la IA pueda cerrar el bucle y suministrar un medicamento de forma automática? Quizá haya un mejor ejemplo donde la decisión crítica debe tomarse rápido, y la IA ayudaría. Alicia ? Aplicando modelos de ML a un problema práctico empresarial y obteniendo malos resultados debido a que el modelo depende demasiado de la estructura del data. Cómo explicarías esto a una persona experta en el campo de aplicabilidad pero no experta en IA? Miguel Angel Díaz ? Qué herramienta de etiquetado de imágenes utilizas? EN LA VIDA Jose Carmona ? IA y la istración pública: ¿qué crees que debe tener en cuenta una estrategia de IA para la istración Pública? ¿A día de hoy ves algún sitio/ámbito (de la on Pública, de tu ayuntamiento por ejemplo) donde podría usarse de forma disruptiva? Juankar G. Joyé ? IA y Gobernanza: que rol debe jugar el Gobierno ( el nuestro por ejemplo) para impulsar una estrategia de país y ser competitivos en IA en esta década ? La de que país te gusta o te parece referente ? Como ves a la universidad formando los futuros profesionales de la IA? Adrián ? ¿Qué medidas legislativas (por ejemplo en términos éticos, de fiabilidad o de responsabilidad) crees que debería adoptar (o sería interesante que adoptara) un país como el nuestro para tratar de controlar a empresas que hagan uso de tecnologías emergentes como la IA? Enrique Benitez ? ¿Qué te parecen los sistemas de reconocimiento facial? ¿Cómo crees que deberían regularse? Javi López ? ¿Qué opinas de Quantopian, Numerai y otros quant funds que están intentando crear sus algoritmos de inversión a partir de concursos de IA? pd: sus retornos no son públicos, nadie sabe cómo de bien o de mal van. DE TODO Javier Martín ? Cómo compaginas tu faceta de empresario con la de científico, divulgador y formador? Lo del foco está sobrevalorado ;) Guillermo Barbadillo ? Cómo te organizas el día a día para hacer tantas cosas? Jose Carmona Navas ? ¿Una IA para detectar bullshit en IA? Podría funcionar ¿cuándo Batman va a superar a Bruce Wayne para ser Batman día y noche? ¿Ha cambio tu percepción del mundo de alguna forma desde que te dedicas a la IA? Julio Guillen ? Have you ever questioned the nature of your reality? Un pequeño guiño a cierta serie.Westworld. Realmente la idea es debatir un poco la idea de si vivimos en una simulación que proponen algunos científicos en la actualidad. Por cambiar un poco de tercio. WTF Plácido Domenech ? Y una última de las mías... Crees que podemos saber si somos Mario Bros en un videojuego? Y si lo supieras intentarías salir? Cómo? qué descubrimiento WTF en el campo esperas ver en menos de 5 años? El inicio de las AI generales? Porque atari y no amiga? Como viviste aquella “guerra”? Y red devil por? ???? Sergio R. Ransano ? Si fueras una IA que hace preguntas sobre IA, ¿qué te preguntarías?

Magia de CSI aumentando resolución de imágenes ¿Realidad o ficción? ¿Dónde está la IA ahí? Fraude del CEO… ¿Que es? ¿Cómo usa hoy la policía la IA? ¿Cómo usará la policía la IA mañana? A estas y más preguntas nos responde Casimiro Nevado: Inspector Policía Nacional, profesor Escuela Nacional de Policía y coordinador Congreso Ciberseguridad C1b3rWall (del que t4mb13n n0s h4bl4).