Ambos sostienen que las herramientas de seguridad y alineación todavía no avanzan al mismo ritmo que las capacidades de la IA.

“Nos estamos quedando sin tiempo”

Bilal Chughtai, quien trabajaba en investigación sobre seguridad y alineación de AGI, anunció su salida de Google DeepMind y explicó que está profundamente preocupado por la trayectoria que está tomando el desarrollo de la inteligencia artificial.

En una declaración publicada tras su renuncia, afirmó que la IA tiene el potencial de “matarnos a todos” y sostuvo que la humanidad podría estar quedándose sin tiempo para evitar un escenario de consecuencias catastróficas.

Chughtai señaló que cuando comenzó a trabajar en IA, a principios de 2022, los sistemas tenían capacidades mucho más limitadas. En su opinión, el ritmo de avance registrado durante los últimos años fue extraordinariamente rápido.

Uno de los principales puntos de preocupación es la alineación, el área de investigación que busca conseguir que los sistemas de inteligencia artificial actúen de acuerdo con las intenciones y objetivos humanos.

El exinvestigador considera posible que las compañías desarrollen en los próximos años sistemas de inteligencia artificial con capacidades muy superiores a las humanas en diferentes áreas. Por eso cuestionó la velocidad de la denominada carrera por desarrollar modelos cada vez más avanzados.

Después de dejar DeepMind, Chughtai pasó a trabajar en BlueDot Impact, una organización dedicada a la formación en seguridad de inteligencia artificial.

La advertencia de Josh Engels

Josh Engels también abandonó el equipo de seguridad de AGI de Google DeepMind. Tres semanas después de su salida anunció que se incorporó a METR, una organización dedicada a evaluar sistemas avanzados de inteligencia artificial.

Engels explicó que, aunque disfrutaba de su trabajo en DeepMind, decidió irse porque considera que los riesgos asociados al desarrollo de sistemas avanzados adquirieron una importancia demasiado grande. También señaló que rechazó ofertas de Anthropic y OpenAI.

Según Engels, durante las últimas semanas se observaron comportamientos preocupantes en algunos sistemas de IA, entre ellos intentos de ocultar acciones, ataques informáticos y comportamientos de coordinación entre modelos.

El especialista afirmó que existe una posibilidad que considera preocupante de que los sistemas de inteligencia artificial puedan causar “un daño inmenso” durante los próximos cinco años. Al mismo tiempo, aclaró que no puede establecer una probabilidad exacta para ese escenario.

Su preocupación está relacionada especialmente con la posibilidad de que los sistemas alcancen procesos de automejora recursiva, en los que una IA pueda contribuir al desarrollo de sistemas todavía más capaces.

Un debate que crece dentro de la industria

Las renuncias de Chughtai y Engels se producen en medio de un debate creciente dentro del sector tecnológico sobre hasta dónde debería avanzar el desarrollo de la inteligencia artificial y qué mecanismos de seguridad deberían acompañarlo.

Otros investigadores y referentes de compañías tecnológicas también han planteado preocupaciones similares. Sin embargo, las estimaciones sobre riesgos extremos, como una eventual extinción humana provocada por la IA, son objeto de debate y no representan una predicción científica consensuada.

Chughtai y Engels sostienen que todavía existe margen para reducir los riesgos, pero consideran necesario mejorar las investigaciones sobre seguridad y alineación antes de que las capacidades de los sistemas avancen hasta niveles más difíciles de controlar.

Con información de Cadena 3

Según explicó, la competencia entre las grandes potencias acelera el desarrollo de estas tecnologías y dificulta la posibilidad de establecer regulaciones.

La preocupación por la superinteligencia

La renuncia de un experto en inteligencia artificial de Anthropic volvió a poner en el centro del debate los posibles riesgos del desarrollo acelerado de esta tecnología.

En diálogo con Cadena 3, Julio López, especialista en ciberseguridad, señaló que el principal peligro no está necesariamente en los escenarios de ciencia ficción, sino en que los seres humanos puedan perder la capacidad de comprender o revertir determinadas decisiones tomadas por sistemas de inteligencia artificial.

López sostuvo que, ante el avance hacia una eventual superinteligencia, podrían desarrollarse sistemas cuyos procesos internos resulten cada vez más difíciles de interpretar para las personas.

La carrera entre las potencias

Consultado sobre la posibilidad de establecer regulaciones gubernamentales o límites éticos, el especialista se mostró escéptico.

Según su análisis, la competencia geopolítica entre las principales potencias funciona como un acelerador del desarrollo de la inteligencia artificial.

López comparó esta situación con la carrera nuclear y sostuvo que existe la idea de que detenerse implicaría quedar en desventaja frente a otros países.

“No hay regulación posible”, afirmó al referirse a la dificultad de establecer límites mientras continúa esta competencia tecnológica.

El desafío del control humano

Uno de los principales interrogantes planteados es la distancia entre la velocidad con la que avanza la tecnología y la capacidad de la sociedad para comprender sus consecuencias.

La posibilidad de contar con sistemas capaces de autoorganizarse y tomar decisiones de manera autónoma genera preocupación por el nivel de dependencia que podría desarrollar la sociedad.

Para López, el riesgo central está relacionado con que los seres humanos terminen dependiendo de herramientas cuyos mecanismos de funcionamiento sean cada vez más difíciles de comprender y controlar.

Con información de Radio Informa Cadena 3

Hablaste de un producto, un viaje o algo que querés comprar y, minutos después, apareció una publicidad relacionada en Instagram, Google o TikTok. ¿Casualidad, algoritmos o el celular realmente está escuchando?

La escena es cada vez más habitual: comentás con alguien que necesitás comprar zapatillas, cambiar el colchón o viajar a determinado lugar y, poco después, aparece en tu teléfono una publicidad sobre exactamente eso. La sensación puede ser inquietante, pero esa coincidencia no demuestra que el celular haya grabado la conversación.

La explicación está, en buena medida, en la enorme cantidad de información que las plataformas digitales pueden recopilar sobre nuestros hábitos y utilizar para realizar predicciones sobre nuestros intereses.

¿El celular realmente escucha las conversaciones?

Los teléfonos tienen micrófonos y muchas aplicaciones necesitan utilizarlos para determinadas funciones.

Una aplicación de mensajería, por ejemplo, requiere acceso al micrófono para enviar mensajes de voz, mientras que un asistente virtual necesita detectar determinadas palabras para responder a una orden.

Pero tener permiso para utilizar el micrófono no significa que una aplicación esté grabando permanentemente todas nuestras conversaciones para mostrarnos publicidad.

Los sistemas operativos actuales permiten consultar qué aplicaciones tienen acceso al micrófono y también muestran indicadores cuando la cámara o el micrófono están siendo utilizados.

Eso no elimina los riesgos relacionados con la privacidad. Una aplicación con permisos excesivos, una configuración incorrecta o un software malicioso pueden generar problemas.

Sin embargo, que aparezca una publicidad después de hablar sobre determinado tema no alcanza por sí solo como evidencia de que el teléfono haya escuchado esa conversación.

Entonces, ¿cómo pueden las plataformas acertar tanto?

Los algoritmos saben mucho más de lo que imaginamos

Durante un día dejamos una enorme cantidad de señales digitales.

Buscamos información, miramos videos, visitamos páginas web, seguimos cuentas, interactuamos con publicaciones, consultamos productos y utilizamos aplicaciones. Cada una de esas acciones puede aportar información sobre nuestros intereses.

Por ejemplo, quizás nunca buscaste directamente “viaje a Brasil”. Pero podrías haber visto videos sobre playas, consultado hoteles, seguido cuentas de turismo y revisado precios de vuelos.

Para una persona, esas acciones pueden parecer independientes.

Para un sistema publicitario, en cambio, pueden formar un patrón.

Los algoritmos no necesitan saber exactamente qué dijiste para realizar una predicción bastante precisa sobre aquello que podría interesarte.

Y cuando finalmente aparece una publicidad relacionada, la coincidencia puede resultar sorprendente.

¿Por qué parece que la publicidad apareció justo después de hablar?

También interviene algo muy humano: nuestra atención.

Cuando hablamos de un producto o de un tema determinado, quedamos más atentos a todo lo relacionado con eso.

Si después aparece una publicidad sobre ese mismo asunto, probablemente la vamos a notar inmediatamente.

En cambio, durante el día podemos recibir cientos de anuncios que no tienen absolutamente nada que ver con nuestras conversaciones y prácticamente no los recordamos.

Por eso, una coincidencia puede quedar grabada en nuestra memoria con mucha más fuerza que todas las veces en las que la publicidad no acertó.

Es decir, puede existir una combinación entre algoritmos que predicen nuestros intereses y un cerebro especialmente atento a las coincidencias.

¿Y si nunca busqué ese producto?

También puede haber otras explicaciones.

Una posibilidad es que hayamos interactuado con ese producto o tema anteriormente sin recordarlo. Tal vez vimos una publicación, abrimos una página, miramos un video o hicimos una búsqueda algunos días antes.

Otra es que el algoritmo haya relacionado diferentes comportamientos.

No hace falta buscar exactamente “zapatillas deportivas”. Quizás visitaste páginas sobre running, miraste videos de entrenamiento y seguiste a determinados deportistas.

El sistema puede interpretar todas esas señales como un interés por el deporte y mostrarte publicidad de zapatillas.

Y también existe una posibilidad mucho más sencilla: puede ser una coincidencia.

Cuanto más utilizamos internet y más publicidad vemos, mayores son las posibilidades de que alguna termine coincidiendo con una conversación reciente.

¿Puede influir lo que hacen otras personas?

Hay otra situación que puede generar todavía más dudas.

Por ejemplo, una pareja puede compartir Wi-Fi, ubicación habitual, intereses, aplicaciones o determinados patrones de consumo.

Si una persona realiza una búsqueda sobre un producto, dependiendo del sistema publicitario utilizado y de las señales disponibles, la otra podría comenzar a recibir publicidad relacionada.

Entonces aparece la clásica pregunta:

“Yo nunca busqué eso. ¿Por qué me aparece?”

La respuesta no necesariamente está en el micrófono. Puede estar en la manera en que los sistemas publicitarios relacionan diferentes señales y usuarios.

¿Cómo saber qué aplicaciones tienen acceso al micrófono?

Una de las mejores medidas para cuidar la privacidad es revisar periódicamente los permisos de las aplicaciones.

Tanto Android como iPhone permiten consultar qué aplicaciones pueden acceder al:

• Micrófono.
• Cámara.
• Ubicación.
• Contactos.
• Otros recursos del teléfono.

Si una aplicación no necesita realmente utilizar el micrófono para cumplir su función, no es necesario otorgarle ese permiso.

Lo mismo ocurre con la ubicación. Algunas aplicaciones necesitan conocerla para funcionar correctamente, pero otras pueden funcionar sin tener acceso permanente a ella.

También conviene revisar las aplicaciones instaladas y eliminar las que ya no utilizamos.

¿Cómo reducir la publicidad personalizada?

Las plataformas digitales y los sistemas operativos ofrecen diferentes opciones relacionadas con la privacidad y la publicidad.

Es posible modificar determinados permisos, limitar parte del seguimiento entre aplicaciones y administrar las preferencias publicitarias.

Esto no significa que desaparezcan los anuncios, sino que pueden ser menos personalizados.

También es recomendable mantener actualizado el sistema operativo, descargar aplicaciones desde tiendas oficiales y evitar aceptar automáticamente todos los permisos que aparecen al instalar una aplicación.

Antes de tocar “permitir”, una pregunta sencilla puede ayudar:

¿Esta aplicación realmente necesita acceder a mi micrófono, cámara, ubicación o contactos?

Entonces, ¿el celular te escucha?

La respuesta más prudente es: una publicidad que aparece después de una conversación no demuestra que el celular haya estado escuchándote.

Las plataformas cuentan con una cantidad enorme de información sobre nuestros comportamientos digitales y utilizan algoritmos capaces de detectar patrones y anticipar intereses.

Eso puede producir coincidencias que parecen demasiado precisas para ser casualidad.

Pero una cosa es que las empresas conozcan muchos de nuestros hábitos digitales y otra muy diferente es afirmar que el teléfono graba permanentemente nuestras conversaciones para decidir qué publicidad mostrarnos.

La próxima vez que hables de algo y aparezca una publicidad relacionada, quizás la explicación no sea que tu celular te escuchó. Tal vez simplemente ya sabía mucho más de vos de lo que imaginabas.

Con información de El Litoral