¿La inteligencia artificial representa un peligro real?
En diálogo con "Dicho de otro Modo", la especialista en IA y autora del libro Humanía, Belén Ortega, analizó las advertencias de los líderes tecnológicos, los riesgos de la pérdida de control frente a los agentes autónomos y la importancia de capacitar a la sociedad ante la reconversión laboral.
El acelerado desarrollo de la tecnología ha reavivado el debate sobre si la inteligencia artificial podría representar una amenaza para la humanidad. A raíz de advertencias sobre un riesgo real de extinción debido al desarrollo sin control de superinteligencias o armas biológicas, referentes del sector como Dario Amodei (CEO de Anthropic) y Sam Altman (CEO de OpenAI) han salido a pedir marcos de regulación. Sin embargo, la discusión ética choca con la geopolítica mundial, evidenciada en posturas como la de Donald Trump, quien se manifestó en contra de frenar el desarrollo estadounidense para no perder el liderazgo tecnológico frente a China.
Más allá de las herramientas generativas actuales, el mayor desafío radica en la evolución hacia la inteligencia artificial general y los agentes autónomos. Belén Ortega advirtió que el peligro surge cuando se diseñan sistemas capaces de crear otros agentes 100% autónomos y más inteligentes que el propio ser humano, provocando una eventual pérdida de supervisión. A esto se suma que la tecnología no es infalible, como se ha demostrado en fallas operativas de drones militares en áreas urbanas. Frente a este panorama, la especialista sostuvo que la autorregulación de las empresas no alcanza y que se necesita un consenso global por encima de los gobiernos.
Para contrarrestar el temor social y evitar el "sedentarismo cognitivo", Ortega propuso enfocarse en la educación y la reconversión profesional. Instó a que las empresas capaciten a sus trabajadores para supervisar procesos automatizados en lugar de reemplazarlos, permitiendo que el aporte humano se concentre en el pensamiento crítico y la empatía. Además, remarcó la importancia de saldar la deuda educativa incorporando la IA en las escuelas, como los proyectos en marcha en la Ciudad de Buenos Aires, y presentó su libro Human IA, una guía pensada para abordar la convivencia con las nuevas tecnologías sin perder la esencia humana.