Episodio 222: el lado oscuro de la IA

Conectando Puntos

Todo gran poder conlleva una gran responsabilidad, frase que popularizaron algunos super héroes y que nos viene como anillo al dedo cuando hablamos de inteligencia artificial. Llevamos meses hablando sin parar de ChatGPT, de inteligencia artificial y de muchas herramientas que (según parece) van a transformar el mundo. Pero, ¿hay un lado oscuro en la IA? Precisamente de ese lado oscuro hablamos en este episodio de Conectando Puntos.

Estas son los enlaces de todos los temas que hemos comentado hoy:

• Si queréis recordar alguno de los episodios en los que hemos hablado de IA, podéis hacerlo en el 172, 213, 215 y 219.
• Miles de profesionales relacionados con la tecnología han firmado una carta abierta en la que se pide expresamente a todos los laboratorios de IA que “pausen durante al menos seis meses el entrenamiento de todos sus sistemas más poderosos que GPT-4”.
• ¿Se adelantará el reloj del fin del mundo? El Reloj del apocalipsis más cerca que nunca. Aquí la actualización de 2023
• Tras un mes suspendida, el 29 de abril ChatGPT volvió a italia.
• Tras meses de negociaciones y dos años después de la propuesta de reglamento, los legisladores de la UE han llegado a un acuerdo y han aprobado un borrador de la Ley de Inteligencia Artificial (AI), que sería el primer conjunto de leyes integrales relacionadas con la regulación de AI.
• El estudio publicado en Jama en el que se comparaba la calidad de respuesta de ChatGPT con la de un grupo de médicos colaboradores de un foro de Reddit.
• Geoffrey Hinton, considerado por algunos «el padrino de la IA» por sus desarrollos en el campo del deep learning, abandona Google tras diez años en la compañía para poder manifestarse de manera abierta sobre los peligros de la tecnología. Enrique Dans lo cuenta muy bien
• Según un documento filtrado, aunque OpenAI y Google siguen compitiendo en la carrera por tener los modelos de lenguaje más punteros, sus esfuerzos son rápidamente alcanzados por el trabajo de la comunidad de código abierto.
• Un gran artículo escrito por la impresncindible Nuria Oliver en el que nos habla sobre los riesgos http://conectandopuntos.es/episodio-69-el-algoritmo-que-sabia-demasiado/
• Yuval Harari (historiador y escritor israelí) ha dicho en su último artículo en The Economist que nos va a costar distinguir la realidad de lo que no lo es…
• Chema le ha preguntado a ChatGPT sobre la alegoría de la caverna relacionada con las noticias falsas generadas por la IA y la respuesta da que pensar.

• Empezamos el anunciado club de lectura de Conectando Puntos y el título elegido es ‘Por qué compramos la burra: cómo nos persuadimos unos a otros‘ de Ramón Nogueras

Para contactar con nosotros, podéis utilizar nuestra cuenta de twitter (@conectantes), Instagram (conectandopuntos) o el formulario de contacto de nuestra web conectandopuntos.es. Nos podéis escuchar en iVoox, en iTunes o en Spotify (busca por nuestro nombre, es fácil).

Créditos del programa

• Intro: Stefan Kanterberg ‘By by baby‘ (licencia CC Atribución).
• Cierre: Stefan Kanterberg ‘Guitalele’s Happy Place‘ (licencia CC Atribución).
• Foto:

Herramientas y materiales utilizados durante la grabación

• Software: Audacity + Audio Hijack + Soundplant + Skype.
• Micrófonos que usamos: Blue Yeti (muy recomendado aunque yo uso una versión anterior) // Micrófono Zoom H2N (una excelente opción si quieres algo portátil que además grabe el audio) // Micrófono Behringer XM8500 (barato y con buen sonido) con interface de audio U-Phoria UMC22

¿Nos ayudas a seguir mejorando?

Puedes hacerlo invitándonos a un café conectante

https://www.buymeacoffee.com/conectapuntos

La entrada Episodio 222: el lado oscuro de la IA se publicó primero en Conectando Puntos.