Future Today #097 - UNESCO. Post-Human. Bostrom. Ética IA
22/04/2023
¡Bienvenidos a Future Today! Una newsletter para curiosos de la innovación social, tecnologías disruptivas y los estudios de futuros. En ella comparto semanalmente artículos, informes y enlaces interesantes, y recomendaciones de libros, películas, series, eventos y cursos.
🔮 Nuestro Compromiso de Futuro: Una Agenda de Futuros para los Jóvenes
La Agenda for Futures by Youth es una campaña mundial creada por jóvenes profesionales de la prospectiva de todo el mundo, en colaboración con UNICEF Innocenti - Oficina Mundial de Investigación y Prospectiva. El conjunto de herramientas, un recurso completo para desarrollar la capacidad de previsión de los jóvenes, incluye: una introducción a la previsión de los jóvenes, un viaje cautivador a tres futuros muy diferentes para los jóvenes...
💭 No basta con detener el desarrollo de la IA. Tenemos que cerrarlo todo
La cuestión clave no es la inteligencia "humana-competitiva" (como dice la carta abierta), sino lo que ocurre después de que la IA alcance una inteligencia superior a la humana. Los umbrales clave pueden no ser obvios, no podemos calcular de antemano qué ocurrirá en ese momento, y actualmente parece imaginable que un laboratorio de investigación cruce los límites críticos sin darse cuenta.
💡Inteligencia Artificial: La UNESCO pide a todos los gobiernos que apliquen sin demora el Marco Ético Mundial
Tras los llamamientos realizados esta semana por más de 1.000 trabajadores del sector tecnológico para que se ponga fin a la formación de los sistemas de inteligencia artificial más potentes, entre ellos Chat GPT, la UNESCO pide a los países que apliquen plenamente y de inmediato su Recomendación sobre la Ética de la Inteligencia Artificial. Este marco normativo mundial, adoptado por unanimidad por los 193 Estados Miembros de la Organización, ofrece todas las garantías necesarias.
🌱 En busca de un emprendimiento social inclusivo
Cuando el campo del emprendimiento social se dedica a buscar soluciones para las desigualdades sociales, a menudo se queda corto a la hora de crear oportunidades para que los que más sufren esas desigualdades se conviertan en protagonistas.
💥 El desierto posthumano
A diferencia de las innovaciones tecnológicas del pasado, la inteligencia artificial no pretende que la humanidad domine la naturaleza, sino que renuncie por completo a su control. Nos demos cuenta o no, la vieja arrogancia antropocéntrica que permite la tecnología puede dar paso pronto a la irrelevancia y el sinsentido humanos.
Libro: AI Superpowers (2018) - Kai-Fu Lee
Serie: Mars (2016 - 2018)
🤖 La explosión de la inteligencia: Nick Bostrom sobre el futuro de la IA
Nick Bostrom, profesor de la Universidad de Oxford y director del Instituto del Futuro de la Humanidad, habla del desarrollo de la superinteligencia de las máquinas y de su posible impacto en la humanidad. Bostrom cree que, en este siglo, crearemos la primera inteligencia general que será más inteligente que los humanos.
🏢 Una primera guía para la elaboración de políticas sobre IA generativa
A principios de esta semana estuve charlando con un profesor de política en Washington, DC, que me dijo que tanto estudiantes como colegas se preguntan sobre la GPT-4 y la IA generativa: ¿Qué deberían leer? ¿Cuánta atención deben prestar?
🚚 Los camiones autónomos circularán por las carreteras el año que viene
Los coches autónomos se llevan todo el bombo (o se lo llevaban antes de que la gente se diera cuenta de que no iban a estar listos para 2020... o 2022... o este año), pero es probable que los camiones autónomos sean los primeros en llegar a las carreteras. No sólo la mayor parte de su conducción se realiza en autopistas, que es mucho más sencillo que navegar por las carreteras urbanas con todos sus obstáculos; ha habido una escasez de conductores de camiones durante años, y no parece que vaya a mejorar, por lo que hay una necesidad en el mercado de camiones que puedan conducirse a sí mismos.
🧠 La revolución ética de la IA: cronología
El mito de que los hombres genio de Silicon Valley son los únicos responsables de los avances en IA ha quedado totalmente desmentido al hacerse más visibles las aportaciones de las mujeres, figuras ocultas en el mundo de la informática.
🐛 Un robot de cuerpo blando copia a una oruga para colarse por los huecos
Para fabricar un pequeño robot capaz de explorar espacios reducidos, sería bueno que también pudiera abrirse paso a través de huecos estrechos. Un nuevo robot experimental lo consigue emulando a una oruga.
Preguntando a ChatGPT
🧔🏻♂️ ¿Crees que se debería parar el avance de la Inteligencia Artificial hasta que se pueda regular y entender el impacto que va a tener?
🤖 Como modelo de lenguaje, no tengo una opinión personal, ya que no tengo capacidades cognitivas ni emocionales. Sin embargo, puedo decirte que la pregunta que planteas es un tema controvertido y muy debatido en la comunidad científica y tecnológica.
🤖 Algunos argumentan que deberíamos detener o limitar el avance de la Inteligencia Artificial hasta que podamos regular y entender completamente su impacto en la sociedad, la economía y la ética. Esto se debe a que la IA puede tener efectos inesperados y no deseados, y podría ser utilizado para fines negativos o para aumentar la desigualdad social.
🤖 Sin embargo, otros argumentan que limitar el avance de la IA podría restringir la innovación y el progreso en la ciencia y la tecnología, y que debemos trabajar en lugar de eso en una regulación responsable y ética de la IA. Además, algunos creen que la IA puede tener un gran potencial para mejorar la vida humana y resolver muchos de los desafíos a los que nos enfrentamos en la actualidad.
🤖 En resumen, no hay una respuesta simple a esta pregunta. Depende de cómo equilibremos los beneficios y los riesgos de la IA y cómo trabajemos juntos para regular y utilizar la tecnología de manera responsable y ética.
🧔🏻♂️ El principal miedo para parar el desarrollo de la IA es que se vuelta en contra de los humanos... ¿Es algo factible en el corto o medio plazo?
🤖 Actualmente, no hay evidencia de que la Inteligencia Artificial pueda volverse en contra de los humanos en el corto o medio plazo. Los sistemas de IA son diseñados y programados por humanos, y por lo tanto, son tan seguros y confiables como los humanos que los crean.
🤖 Sin embargo, es cierto que existe cierta preocupación sobre cómo la IA puede ser utilizada de manera irresponsable o malintencionada. Por ejemplo, los sistemas de IA pueden ser utilizados para el espionaje, el control social o incluso la guerra. También hay preocupaciones sobre la IA que se utiliza para tomar decisiones importantes, como las decisiones de contratación, que podrían basarse en sesgos injustos o discriminación.
🤖 Para evitar estos riesgos, es importante que la comunidad científica y tecnológica trabaje en una regulación responsable y ética de la IA. Esto podría incluir el desarrollo de principios éticos y estándares de seguridad para los sistemas de IA, así como la implementación de mecanismos de supervisión y responsabilidad para las empresas y organizaciones que desarrollan y utilizan la IA.
🤖 En resumen, aunque es posible que existan riesgos asociados con la IA, es importante trabajar juntos para mitigar estos riesgos y garantizar que la IA se utilice de manera responsable y segura para el beneficio de la sociedad.
«Ser brutalmente honesto a corto plazo y optimista y confiado a largo plazo» - Reed Hastings
Si te ha gustado... ¡Compártelo y recomiéndalo! Y si me quieres contactar, escríbeme a alayon.david@gmail.com. También me puedes seguir en Linkedin, Twitter y el podcast Heavy Mental 🤘🏻 ¡Nos vemos la semana que viene! 🤓