Ambos sostienen que las herramientas de seguridad y alineación todavía no avanzan al mismo ritmo que las capacidades de la IA.

“Nos estamos quedando sin tiempo”

Bilal Chughtai, quien trabajaba en investigación sobre seguridad y alineación de AGI, anunció su salida de Google DeepMind y explicó que está profundamente preocupado por la trayectoria que está tomando el desarrollo de la inteligencia artificial.

En una declaración publicada tras su renuncia, afirmó que la IA tiene el potencial de “matarnos a todos” y sostuvo que la humanidad podría estar quedándose sin tiempo para evitar un escenario de consecuencias catastróficas.

Chughtai señaló que cuando comenzó a trabajar en IA, a principios de 2022, los sistemas tenían capacidades mucho más limitadas. En su opinión, el ritmo de avance registrado durante los últimos años fue extraordinariamente rápido.

Uno de los principales puntos de preocupación es la alineación, el área de investigación que busca conseguir que los sistemas de inteligencia artificial actúen de acuerdo con las intenciones y objetivos humanos.

El exinvestigador considera posible que las compañías desarrollen en los próximos años sistemas de inteligencia artificial con capacidades muy superiores a las humanas en diferentes áreas. Por eso cuestionó la velocidad de la denominada carrera por desarrollar modelos cada vez más avanzados.

Después de dejar DeepMind, Chughtai pasó a trabajar en BlueDot Impact, una organización dedicada a la formación en seguridad de inteligencia artificial.

La advertencia de Josh Engels

Josh Engels también abandonó el equipo de seguridad de AGI de Google DeepMind. Tres semanas después de su salida anunció que se incorporó a METR, una organización dedicada a evaluar sistemas avanzados de inteligencia artificial.

Engels explicó que, aunque disfrutaba de su trabajo en DeepMind, decidió irse porque considera que los riesgos asociados al desarrollo de sistemas avanzados adquirieron una importancia demasiado grande. También señaló que rechazó ofertas de Anthropic y OpenAI.

Según Engels, durante las últimas semanas se observaron comportamientos preocupantes en algunos sistemas de IA, entre ellos intentos de ocultar acciones, ataques informáticos y comportamientos de coordinación entre modelos.

El especialista afirmó que existe una posibilidad que considera preocupante de que los sistemas de inteligencia artificial puedan causar “un daño inmenso” durante los próximos cinco años. Al mismo tiempo, aclaró que no puede establecer una probabilidad exacta para ese escenario.

Su preocupación está relacionada especialmente con la posibilidad de que los sistemas alcancen procesos de automejora recursiva, en los que una IA pueda contribuir al desarrollo de sistemas todavía más capaces.

Un debate que crece dentro de la industria

Las renuncias de Chughtai y Engels se producen en medio de un debate creciente dentro del sector tecnológico sobre hasta dónde debería avanzar el desarrollo de la inteligencia artificial y qué mecanismos de seguridad deberían acompañarlo.

Otros investigadores y referentes de compañías tecnológicas también han planteado preocupaciones similares. Sin embargo, las estimaciones sobre riesgos extremos, como una eventual extinción humana provocada por la IA, son objeto de debate y no representan una predicción científica consensuada.

Chughtai y Engels sostienen que todavía existe margen para reducir los riesgos, pero consideran necesario mejorar las investigaciones sobre seguridad y alineación antes de que las capacidades de los sistemas avancen hasta niveles más difíciles de controlar.

Con información de Cadena 3

Los autos híbridos se consolidan como una alternativa intermedia entre los vehículos tradicionales y los eléctricos. En Argentina ya se ofrecen distintos modelos con esta tecnología y algunos se ubican por debajo de los US$30.000.

Los sistemas híbridos combinan un motor de combustión interna con uno o más motores eléctricos para reducir el consumo de combustible y las emisiones. En los modelos convencionales, la batería se recarga principalmente mediante la recuperación de energía durante las desaceleraciones y frenadas.

Estos son los cinco autos híbridos más económicos del mercado argentino, tomando las versiones de entrada de gama y los precios indicados para el día de publicación.

Los 5 híbridos más baratos

1. Suzuki Swift Hybrid GLX MT: US$22.400
2. MG 3 Hybrid+ Comfort: US$23.500
3. MG ZS Hybrid+ Comfort: US$26.500, con bonificación durante septiembre
4. Suzuki Across Hybrid GL: US$27.900
5. Citroën C4 Hybrid Plus: $44.610.000

1. Suzuki Swift Hybrid GLX MT

El Suzuki Swift Hybrid es un hatchback y se presenta como el híbrido más económico del mercado argentino. La versión GLX MT cuenta con una caja manual de cinco velocidades y pertenece a la nueva generación del modelo, importada desde India.

Su sistema de propulsión está compuesto por un motor naftero 1.2 de tres cilindros, con 80 CV y 112 Nm de torque, acompañado por un sistema híbrido suave SHVS de 12V.

La tecnología permite recuperar energía durante las desaceleraciones y brindar asistencia al motor de combustión en determinadas situaciones.

Precio: US$22.400.

2. MG 3 Hybrid+ Comfort

El MG 3 Hybrid+ es un hatchback del segmento B y ocupa el segundo lugar entre los híbridos más baratos del país.

La versión Comfort tiene un precio de US$23.500.

Cuenta con un motor naftero 1.5 de cuatro cilindros, asociado a un motor eléctrico y una batería de 1,83 kWh.

El sistema desarrolla una potencia combinada de 194 CV y utiliza una transmisión automática de tres velocidades. Su funcionamiento permite priorizar el uso del motor eléctrico en distintas situaciones de conducción.

3. MG ZS Hybrid+ Comfort

El MG ZS Hybrid+ es un SUV compacto del segmento B y ocupa el tercer lugar del ranking.

La versión Comfort tiene un precio promocional de US$26.500 durante septiembre.

Utiliza un motor naftero 1.5 de cuatro cilindros, combinado con un motor eléctrico y una batería de 1,83 kWh.

La potencia máxima combinada alcanza los 194 CV y la transmisión es automática de tres velocidades.

4. Suzuki Across Hybrid GL

El Suzuki Across Hybrid es un SUV mediano que aparece cuarto entre los híbridos más económicos del mercado argentino.

La versión GL tiene un precio de US$27.900.

Su sistema combina un motor naftero 2.5 de cuatro cilindros con motores eléctricos y una batería de 18,1 kWh.

El conjunto desarrolla 306 CV de potencia combinada, cuenta con tracción integral y utiliza una transmisión automática e-CVT.

5. Citroën C4 Hybrid Plus

El Citroën C4 Hybrid completa el listado de los cinco híbridos más baratos del país.

La versión Hybrid Plus tiene un precio de $44.610.000.

El modelo pertenece al segmento C y combina un motor naftero 1.2 de tres cilindros con un motor eléctrico y una batería de 48V.

El sistema desarrolla una potencia combinada de 145 CV y está asociado a una transmisión automática de doble embrague y seis velocidades.

Una alternativa entre los autos convencionales y los eléctricos

Los vehículos híbridos combinan un motor de combustión con tecnología eléctrica para buscar menores consumos y emisiones.

A diferencia de los híbridos enchufables, los sistemas HEV no necesitan conectarse a una fuente externa para recargar la batería, ya que recuperan energía principalmente durante las frenadas y desaceleraciones.

Con información de La Nación

Según explicó, la competencia entre las grandes potencias acelera el desarrollo de estas tecnologías y dificulta la posibilidad de establecer regulaciones.

La preocupación por la superinteligencia

La renuncia de un experto en inteligencia artificial de Anthropic volvió a poner en el centro del debate los posibles riesgos del desarrollo acelerado de esta tecnología.

En diálogo con Cadena 3, Julio López, especialista en ciberseguridad, señaló que el principal peligro no está necesariamente en los escenarios de ciencia ficción, sino en que los seres humanos puedan perder la capacidad de comprender o revertir determinadas decisiones tomadas por sistemas de inteligencia artificial.

López sostuvo que, ante el avance hacia una eventual superinteligencia, podrían desarrollarse sistemas cuyos procesos internos resulten cada vez más difíciles de interpretar para las personas.

La carrera entre las potencias

Consultado sobre la posibilidad de establecer regulaciones gubernamentales o límites éticos, el especialista se mostró escéptico.

Según su análisis, la competencia geopolítica entre las principales potencias funciona como un acelerador del desarrollo de la inteligencia artificial.

López comparó esta situación con la carrera nuclear y sostuvo que existe la idea de que detenerse implicaría quedar en desventaja frente a otros países.

“No hay regulación posible”, afirmó al referirse a la dificultad de establecer límites mientras continúa esta competencia tecnológica.

El desafío del control humano

Uno de los principales interrogantes planteados es la distancia entre la velocidad con la que avanza la tecnología y la capacidad de la sociedad para comprender sus consecuencias.

La posibilidad de contar con sistemas capaces de autoorganizarse y tomar decisiones de manera autónoma genera preocupación por el nivel de dependencia que podría desarrollar la sociedad.

Para López, el riesgo central está relacionado con que los seres humanos terminen dependiendo de herramientas cuyos mecanismos de funcionamiento sean cada vez más difíciles de comprender y controlar.

Con información de Radio Informa Cadena 3