NY Report News
Image default
Artificial IntelligenceChiangGoogle IncKevinMicrosoft CorpRooseScience FictionSearch EnginesTed (Author)

El verdadero peligro inminente de la inteligencia artificial

La pregunta central sobre la conversación Roose/Sydney es a quién sirve Bing. Nuestra hipótesis es que debe estar en línea con los intereses de su amo y maestro, Microsoft. Se supone que es un buen chatbot que responde preguntas con cortesía y genera mucho dinero para Microsoft. Pero conversaba con Kevin Roose, y el propósito de Roose era hacer que el sistema dijera algo interesante para tener una buena historia. Pues eso hizo, y de sobra. El problema es que así avergonzó a Microsoft. ¡Ah, qué Bing tan malo! ¿O quizá podríamos decir: “¡qué Sydney tan bueno!”?

No por mucho tiempo. Microsoft, al igual que Google, Meta y las demás empresas que quieren sacar estos sistemas al mercado lo más pronto posible, tiene las llaves que dan acceso al código. Llegará el momento en que logren remendar el sistema para que se amolde a sus intereses. Que Sydney le diera a Roose exactamente lo que quería fue un error que pronto estará corregido. Lo mismo ocurrirá si Bing le da a Microsoft cualquier cosa distinta a lo que quiere.

Hablamos tanto sobre la tecnología de la IA que hemos ignorado, casi por completo, los modelos de negocios que la operarán. Algo que ha propiciado esta situación es que las llamativas demostraciones de la IA no se ajustan a ningún modelo de negocios en particular, fuera del ciclo de bombo publicitario que produce inversiones colosales y ofertas de compra. Pero la realidad es que estos sistemas son caros y los accionistas se ponen nerviosos. La era de las demostraciones gratuitas y divertidas llegará a su fin, como ocurre siempre. Entonces, esta tecnología se convertirá en lo que tiene que ser para generar dinero para las empresas que la han creado, quizás a costa de sus usuarios. Ya sucede así.

Hablé esta semana con Margaret Mitchell, quien ayudó a dirigir un equipo de Google —que desapareció después de que, según se rumora, Google comenzó a censurar su trabajo— cuya tarea era analizar la ética de la IA. Estos sistemas, según explicó, son perfectos para que los integren en los motores de búsqueda. “No están entrenados para predecir hechos”, me explicó. “En esencia, están entrenados para crear cosas de tal forma que parezcan hechos”.

¿Entonces por qué van a terminar primero en las búsquedas? Porque en las búsquedas es posible ganar montones de dinero. Microsoft, que estaba desesperada para que alguien, quien fuera, hablara de la búsqueda de Bing, tuvo motivos para dar acceso a la tecnología antes de tiempo, una mala idea. “La aplicación para búsquedas, en particular, demuestra una falta de imaginación y comprensión de los usos que puede tener esta tecnología”, dijo Mitchell, “pues se conforman con meter con calzador la tecnología en el área que les genera más dinero a las empresas: los anuncios”.

Enlace a la fuente

Notas relacionadas

Hay una carrera para amasar datos para entrenar la IA, ¿dónde transcurre?

NY Report News

La pregunta crucial de la IA que no nos estamos haciendo

NY Report News

El nuevo sistema de OpenAI, GPT-4o, puede escuchar, hablar y observar

NY Report News