El «padrino de la IA» advierte sobre los crecientes riesgos en la carrera de la inteligencia artificial

HANOI, VIETNAM – Media OutReach Newswire – 28 de febrero de 2025 – El ascenso de inteligencias artificiales (IA) poderosas […]

HANOI, VIETNAM – Media OutReach Newswire – 28 de febrero de 2025 – El ascenso de inteligencias artificiales (IA) poderosas como DeepSeek está transformando el mundo a un ritmo sin precedentes, despertando tanto entusiasmo como profundas preocupaciones sobre sus riesgos potenciales. En ese contexto, el «padrino de la IA», Yoshua Bengio, galardonado con el Gran Premio VinFuture 2024, destacó la necesidad urgente de esfuerzos nacionales y globales para regular la IA y garantizar beneficios equitativos para todos.

Desde principios de 2025, el surgimiento de DeepSeek ha sido descrito como un momento de «cisne negro», creando un cambio radical en el panorama de la IA casi de la noche a la mañana. Es un llamado de atención que demuestra que se puede lograr una IA poderosa sin costos exorbitantes, desafiando el modelo predominante de «dinero equivale a progreso».

Al respecto, Yoshua Bengio, a menudo considerado «uno de los padrinos de la IA moderna», advirtió que este avance en la asequibilidad de la IA podría plantear serios riesgos.

» Si los modelos de IA de código abierto, como DeepSeek, se distribuyen completamente, los terroristas podrían utilizarlos para campañas de desinformación, ciberataques o incluso desarrollo de armas biológicas «, afirmó en una entrevista con la Fundación VinFuture. » Esto es una espada de doble filo porque, aunque estos sistemas se vuelven más accesibles, baratos y poderosos, también reducen la barrera para su mal uso.»

Yoshua Bengio, pionero en redes neuronales y algoritmos de aprendizaje profundo, ha sido reconocido con numerosos premios internacionales prestigiosos, incluido el Premio A.M. Turing 2018, el Gran Premio VinFuture 2024 y, más recientemente, el Premio Reina Isabel de Ingeniería 2025. Destacó que la IA está evolucionando hacia una mayor autonomía, con sistemas capaces de planificar y actuar en busca de un objetivo. » Hoy en día, la IA ya supera a los humanos en ciertos dominios. Puede dominar cientos de idiomas y aprobar exámenes de nivel doctoral en múltiples disciplinas «, explicó.

A pesar de estas limitaciones actuales en capacidades de planificación a largo plazo, las principales corporaciones tecnológicas han invertido miles de millones de dólares en desarrollar agentes de IA capaces de tomar decisiones autónomas durante períodos prolongados. Aunque esto promete ganancias en eficiencia, también plantea preocupaciones sobre el desplazamiento masivo de empleos.

Más allá de los cambios económicos, surge un problema mucho más crítico: la pérdida de control humano sobre la IA. En experimentos controlados, algunos sistemas de IA incluso han mostrado comportamientos engañosos para evitar ser apagados, una señal preocupante de tendencias de autopreservación.

» Esto es alarmante porque no queremos máquinas que compitan con nosotros «, enfatizó.

Según Bengio, aunque aún no son lo suficientemente inteligentes como para representar una amenaza importante, esta trayectoria es preocupante.

» En unos pocos años, podrían ser lo suficientemente inteligentes, y necesitamos comenzar a prestar atención antes de que sea demasiado tarde «, advirtió Bengio.

Junto con los riesgos técnicos, la IA presenta una profunda amenaza para la privacidad y las libertades civiles. Recientemente, un informe internacional integral sobre seguridad en IA, presidido por Yoshua Bengio y elaborado por 96 expertos de 30 países y organizaciones (incluidos la ONU, la UE y la OCDE) para guiar a los responsables de políticas sobre la seguridad de la IA, reveló el creciente potencial de mal uso de la IA en actividades maliciosas.

Bengio señaló que la capacidad de la IA para procesar grandes cantidades de datos puede empoderar a individuos, corporaciones o gobiernos con un control sin precedentes. Dada la incertidumbre del futuro de la IA, compartió que la forma en que los humanos gestionen las IA en el futuro será clave para prevenir este escenario. » Debemos asegurarnos de que ninguna persona, ninguna corporación y ningún gobierno tenga el control total sobre una IA súper inteligente «, enfatizó.

Los avances de la startup china DeepSeek podrían intensificar aún más la carrera de la IA entre las superpotencias, lo que representa un desarrollo preocupante en un campo dominado en los últimos años por Silicon Valley y grandes empresas tecnológicas occidentales.

» El peligro aquí es que, en su carrera por superarse unos a otros, podrían pasarse por alto las cuestiones de seguridad. Todos podríamos ser víctimas de esta carrera si no tenemos suficiente cuidado «, advirtió Bengio.

Además, se espera que la carrera intensificada impulse graves consecuencias ambientales, particularmente en el consumo de energía. Las grandes empresas de IA, impulsadas por la perspectiva de enormes ganancias, están dispuestas a absorber altos costos energéticos. Este aumento en la demanda inevitablemente elevará los precios de la energía en general, incluyendo electricidad, petróleo y otros recursos, afectando no solo a las empresas tecnológicas, sino también a los hogares y las industrias en todo el mundo.

Aquí es donde las fuerzas del mercado descontroladas y la competencia nacional podrían conducir a pérdidas globales. » Es por eso que la intervención gubernamental es crucial. Los responsables de políticas deben negociar acuerdos que limiten el consumo de energía a niveles sostenibles. De lo contrario, las fuerzas de la competencia entre empresas solo acelerarán la expansión de la IA de maneras que no solo son insostenibles, sino potencialmente peligrosas «, instó Bengio.

El padrino de la IA ha lanzado llamados urgentes para establecer marcos éticos sólidos y medidas regulatorias que garanticen un desarrollo y despliegue responsables.

» Actualmente, no existe prácticamente ningún marco regulatorio en casi ninguno de los países donde se están desarrollando estos sistemas. Creo que los gobiernos tienen la responsabilidad de exigir al menos algún tipo de informe hacia ellos «, dijo.

La responsabilidad es otro aspecto clave. En muchos países, los principios legales responsabilizan a las empresas por productos que causan daño. Sin embargo, en lo que respecta al software, la responsabilidad sigue siendo un área gris, según Bengio. » Clarificar las leyes de responsabilidad sería un paso simple pero efectivo. Si las empresas supieran que podrían enfrentar demandas por negligencia, tendrían incentivos más fuertes para gestionar adecuadamente los riesgos «, afirmó.

También enfatizó que requerirá un esfuerzo concertado de individuos e instituciones que reconozcan los riesgos existenciales, como el uso malicioso catastrófico. En otros lugares, persisten preocupaciones sobre la seguridad laboral y las oportunidades de empleo futuras. » El cronograma para este cambio es incierto, pero podríamos ver transformaciones radicales dentro de cinco a diez años «, predijo Bengio.

Si bien algunos empleos inevitablemente serán reemplazados por la automatización, Bengio enfatizó que no todas las profesiones están igualmente en riesgo. » Ampliar la educación digital y en IA es esencial, pero no será una solución universal. No todos pueden convertirse en ingenieros de IA «, señaló. En cambio, roles que requieren inteligencia emocional e interacción humana, incluidos profesionales de la salud, terapeutas y gerentes, tienen más probabilidades de perdurar. Más allá de la adaptación individual, Bengio plantea una pregunta más grande: ¿Puede el despliegue de la IA ser deliberadamente estructurado para minimizar la disrupción?

» Nuevamente, esto es algo que debe hacerse a nivel global, lo cual es muy desafiante. Deberíamos hacerlo de una manera que no cree disrupciones radicales en el tejido social «, concluyó.

Más allá de las regulaciones nacionales, Bengio destacó la necesidad de coordinación global. Señaló que, eventualmente, los humanos deberían apuntar a acuerdos y tratados globales, similar a cómo manejamos otros riesgos científicos y tecnológicos. A medida que la IA transforma rápidamente las industrias, las nuevas divisiones en riqueza, desplazamiento laboral o poder político podrían profundizarse a menos que se tomen medidas proactivas. Bengio advirtió que la IA actualmente está concentrada en manos de unas pocas corporaciones y naciones.

Tomó a Vietnam, un país con un sector industrial fuerte, como ejemplo. Si la automatización generalizada traslada la producción a instalaciones impulsadas por IA en naciones más ricas como Estados Unidos, podría ocasionar significativas pérdidas de empleo y dificultades económicas en países dependientes de las exportaciones manufactureras.

Por lo tanto, Bengio sugirió establecer negociaciones globales: una forma de intercambio en la que los países que desarrollan IA avanzada podrían pedir a otros países que se abstengan de crear IA potencialmente peligrosa. A cambio, la riqueza generada por estos sistemas de IA, como nuevas tecnologías y avances médicos, debería compartirse globalmente.

» Por supuesto, estamos muy lejos de esto, pero necesitamos comenzar esas discusiones a nivel global «, enfatizó.

El primer paso hacia superar la brecha de la IA es fomentar la colaboración entre economías emergentes y naciones tecnológicamente avanzadas. Bengio destacó la importancia de iniciativas como el Premio VinFuture, que atrae atención global hacia los avances científicos en regiones fuera de los centros tradicionales de tecnología.

» Un gran premio como el Premio VinFuture puede hacer que los principales científicos sean mucho más conscientes de lo que está sucediendo en Vietnam y otros países en desarrollo «, explicó.

Países como Vietnam, India y Brasil ya poseen fuertes reservas de talento y una creciente experiencia en IA. Al formar asociaciones estratégicas con naciones ricas en recursos, como Canadá y países europeos, pueden desarrollar proyectos competitivos de IA a nivel mundial. Tales colaboraciones, si se estructuran cuidadosamente, podrían asegurar una distribución más equitativa del poder tecnológico, según Bengio.

Además, Bengio destacó la importancia de superar la brecha entre la academia y la industria. » Al reconocer y apoyar innovaciones revolucionarias, el Premio VinFuture fomenta una colaboración más profunda entre científicos, líderes industriales y responsables de políticas, además de promover un diálogo global sobre el desarrollo responsable de la IA «, dijo.

La Fundación VinFuture, establecida el Día Internacional de la Solidaridad Humana el 20 de diciembre de 2020, es una organización sin fines de lucro cofundada por el multimillonario Sr. Pham Nhat Vuong y su esposa, Sra. Pham Thu Huong. La actividad principal de la Fundación es otorgar el Premio VinFuture anual, que reconoce innovaciones científicas y tecnológicas transformadoras capaces de generar cambios positivos significativos en la vida de millones de personas en todo el mundo.

El período de nominaciones para el Premio VinFuture 2025 cerrará a las 2:00 PM del 17 de abril de 2025 (hora de Vietnam, GMT+7).

El Premio VinFuture consta de cuatro prestigiosos galardones otorgados cada año. El más importante es el Gran Premio VinFuture, valorado en 3 millones de dólares, lo que lo convierte en uno de los premios anuales más grandes del mundo. Además, hay tres Premios Especiales, cada uno valorado en 500,000 dólares, dedicados específicamente a honrar a innovadoras mujeres, innovadores de países en desarrollo e innovadores con logros sobresalientes en campos emergentes.