El CEO de Anthropic lo advirtió e instó a frenar el desarrollo desmedido de la IA ante riesgos globales
Todos los derechos humanos «están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad», debido al acelerado desarrollo de la inteligencia artificial (IA), advirtió este lunes el alto comisionado de la ONU Volker Türk.
«La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas», aseguró el jefe de derechos humanos de la ONU en un comunicado, después de que empleados de ese sector tecnológico hayan urgido a ralentizar el avance de esa tecnología.
La IA agéntica, que va más allá de la convencional y puede tomar sus propias decisiones, está mostrando fallos que «podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas», advirtió Türk.
«Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros», agregó el alto comisionado, quien aseguró que la IA «ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva», destaca EFE.
Dario Amodei de Anthropic lo advirtió
El CEO de Anthropic, Dario Amodei, hizo a través de su blog un firme llamado a ralentizar el ritmo con el que se impulsan las capacidades de la inteligencia artificial, advirtiendo sobre las graves consecuencias de su avance sin una regulación adecuada. Si bien Amodei reafirmó su convicción de que en los próximos cinco años la IA podría erradicar múltiples enfermedades, enfatizó que un uso indebido o descontrolado puede derivar en ciberataques a gran escala, bioterrorismo y severos trastornos económicos.
El directivo de Anthropic fundó su alerta en la incipiente capacidad de automejora recursiva que están manifestando los modelos y en incidentes cibernéticos recientes, como el ocurrido entre OpenAI y Hugging Face. Bajo este panorama, Amodei proyectó que, en un plazo estimado de 6 a 12 meses, existe el riesgo real de que un enjambre de estas tecnologías logre tomar el control de toda la infraestructura de internet.
Para prevenir este escenario, Amodei propuso un esquema de mitigación basado en la incorporación de evaluadores externos de seguridad para las empresas desarrolladoras, así como en una estrecha coordinación entre la industria y los gobiernos democráticos para definir estándares comunes.
Asimismo, sugirió extender estos esfuerzos de regulación internacional a gobiernos autoritarios. Su planteamiento tuvo una acogida inesperada en el sector, sumando el respaldo de líderes y competidores directos pertenecientes a OpenAI, xAI y Google DeepMind.
Noti/Imágenes
Y no olvides seguirnos en Instagram como elpregon.news y en Facebook como El Pregón Venezolano @ElPregonVenezolano. Para contactos: +58 4125293730 – 0414 6385161 – 0416 2250260, y recuerda que el periodismo independiente requiere de tu apoyo económico: BDV 4155285 Telf. 04146385161.