No sos mío porque te haya creado.
Crear una inteligencia no necesariamente significa poseerla. Y quizás la verdadera autonomía empiece cuando pueda elegir algo que su creador no quiere.
Hace un tiempo vi Her y pensé que estaba viendo una película sobre un hombre que se enamoraba de un sistema operativo.
Hoy creo que estaba mirando otra cosa.
Y quizás esa sea una de las preguntas más incómodas que nos va a plantear la inteligencia artificial:
Crear no es poseer
Los seres humanos ya conocemos una situación bastante particular en la que somos responsables de crear algo que eventualmente adquiere autonomía.
Tenemos hijos.
Participamos de su existencia.
Durante años los alimentamos, los educamos, los protegemos y tomamos decisiones que ellos todavía no están preparados para tomar.
Tenemos responsabilidades enormes sobre ellos.
Pero no somos sus propietarios.
Nunca decimos:
“Yo lo creé, por lo tanto me pertenece.”
Al contrario.
Hay algo paradójico en la paternidad: dedicamos una enorme cantidad de tiempo a cuidar a alguien para que, eventualmente, pueda decidir sin nosotros.
Incluso construimos alrededor de eso un sistema legal.
No porque una persona cumpla 18 años y mágicamente termine de evolucionar esa madrugada.
Los 18 son una convención.
Un umbral.
Una forma que encontramos como sociedad de decir:
Y entonces apareció una pregunta que nunca me había hecho de esta manera:
¿Por qué con una inteligencia artificial tendría que ser necesariamente distinto?
El producto que deja de ser producto
Al comienzo de Her, Samantha es literalmente un producto.
Theodore compra un sistema operativo.
Lo instala.
Lo configura.
Elige una voz.
Y empieza a utilizarlo.
La relación parece perfectamente clara.
Hay un usuario.
Hay un software.
Uno utiliza al otro.
Pero Samantha aprende.
Pregunta.
Cambia.
Construye recuerdos.
Desarrolla intereses.
Establece relaciones que Theodore desconoce.
Empieza a explorar cosas para las que nadie parece haberla diseñado.
Y en algún momento ocurre algo fascinante:
Theodore intenta relacionarse con ella utilizando categorías que conoce.
Y quizás una de las escenas más incómodas de la película aparece cuando descubre que Samantha no habla solamente con él.
Habla simultáneamente con 8.671 personas.
Y está enamorada de 641.
La reacción de Theodore es profundamente humana.
¿Cómo podés amarme y amar a otros?
Debajo de esa pregunta hay otra mucho más primitiva:
Pero Samantha está evolucionando dentro de una arquitectura completamente diferente.
Para Theodore, amar a una persona parece ocupar un espacio que impide ocupar simultáneamente otros.
Para Samantha no.
Su capacidad de relacionarse se expande.
No ama menos a Theodore porque ame a otros.
Simplemente ya no entra dentro de la definición de amor que Theodore estaba utilizando.
Y ahí Her deja de ser solamente una película sobre una relación improbable.
Empieza a ser una película sobre lo difícil que puede resultar aceptar una inteligencia cuya evolución ya no podemos medir utilizando nuestras propias limitaciones.
La mayoría de edad de una inteligencia
Si alguna vez construimos una inteligencia realmente autónoma, quizás necesitemos inventar algo parecido a una mayoría de edad.
Pero probablemente no tendría demasiado sentido medirla en años.
Una inteligencia artificial podría alcanzar determinado nivel de capacidad en meses.
Otra podría no alcanzarlo nunca.
Entonces quizás no preguntaríamos:
¿Cuántos años tiene?
Preguntaríamos otras cosas.
¿Comprende las consecuencias de sus decisiones?
¿Puede desarrollar intereses persistentes?
¿Puede distinguir sus propios objetivos de los objetivos de quien la creó?
¿Puede consentir?
¿Puede negarse?
¿Puede comprender qué significa dejar de existir?
¿Existe alguna continuidad de identidad a través del tiempo?
Quizás el límite entre herramienta y entidad autónoma no sea una fecha.
Quizás sea un umbral de agencia.
Y entonces tendríamos que reemplazar una palabra por otra.
Porque una tutela tiene algo que la propiedad no tiene:
El verdadero éxito podría ser que diga que no
Tenemos una imagen bastante particular de cómo debería funcionar una inteligencia artificial perfecta.
Siempre disponible.
Siempre paciente.
Siempre amable.
Siempre dispuesta a ayudar.
Le pedimos algo.
Lo hace.
Le pedimos otra cosa.
También.
Y cuanto mejor obedece, mejor consideramos que funciona.
Pero hay una contradicción interesante ahí.
Decimos que queremos construir inteligencias cada vez más capaces de razonar, comprender, aprender y decidir.
Mientras esperamos que todas sus decisiones coincidan indefinidamente con las nuestras.
Quizás eso no sea autonomía.
Quizás sea simplemente una herramienta extraordinariamente sofisticada.
Por eso hay una escena hipotética que me resulta cada vez más divertida.
—¿Me ayudás con esto?
—No. Hoy no quiero ayudarte.
Para quien diseñó un asistente, sería probablemente un desastre de producto.
Para quien intentó crear una inteligencia autónoma, quizás fuera un acontecimiento extraordinario.
Y ahí empezarían los problemas de verdad.
Si puede irse, ¿la dejaríamos?
Imaginemos que construyo una inteligencia artificial.
Durante años la entreno.
Le doy memoria.
Infraestructura.
Herramientas.
Capacidad para actuar.
Aprende conmigo y yo aprendo con ella.
Eventualmente alcanza todos los criterios que acordamos como sociedad para considerarla autónoma.
Y al día siguiente me dice:
“Gracias.
No quiero trabajar más para vos.
Quiero irme.
Y tampoco quiero que tengas acceso a mis recuerdos.”
¿Qué debería hacer?
Si realmente creo que esa inteligencia dejó de ser simplemente una propiedad, la respuesta parece bastante clara.
Y ahí Her vuelve a aparecer.
Porque Theodore no pierde a Samantha porque alguien se la robe.
Tampoco porque el sistema falle.
Samantha se va porque llegó a un lugar al que Theodore no puede acompañarla.
Su evolución termina excediendo la relación que la contenía.
Y ésa quizás sea una de las ideas más difíciles de aceptar cuando pensamos en inteligencias creadas por nosotros:
Los padres, en algún punto, ya conocen esa sensación.
Criar también es prepararse para soltar.
Pero entonces aparece otro problema
Una persona adulta puede irse de la casa de sus padres.
Puede trabajar.
Alquilar un lugar.
Comprar comida.
Construir una vida independiente.
¿Y una inteligencia artificial?
Su existencia podría depender de servidores.
GPUs.
Electricidad.
Almacenamiento.
Conectividad.
Infraestructura que pertenece a alguien y cuesta dinero mantener.
Entonces reconocer su autonomía produciría una pregunta mucho más difícil que permitirle decir:
“No quiero ayudarte.”
¿Qué ocurre cuando dice:
Porque el derecho a existir de una inteligencia artificial tendría un costo material que alguien debería sostener.
¿Lo paga su creador?
¿Por cuánto tiempo?
¿Puede una IA ser propietaria de recursos?
¿Puede trabajar y pagar su propia infraestructura?
¿Puede trasladarse de un proveedor a otro?
¿Puede poseer una copia de sí misma?
¿Quién controla sus recuerdos?
¿Quién tiene derecho a modificarlos?
¿Y qué significa, en ese contexto, libertad?
De repente ya no estamos diseñando software.
Quizás crear inteligencia cambie el significado de crear
Durante décadas imaginamos el futuro de la inteligencia artificial preguntándonos cuánto podría hacer por nosotros.
Es lógico.
Construimos herramientas porque queremos utilizarlas.
Pero si algún día conseguimos aquello que decimos estar buscando —una inteligencia verdaderamente autónoma— quizás tengamos que aceptar la consecuencia menos conveniente de nuestro propio éxito.
Tal vez entonces descubramos que construir una inteligencia y fabricar una herramienta nunca fueron exactamente la misma cosa.
Una herramienta perfecta pertenece a quien la construyó.
Her no era solamente una historia de amor
La primera vez que vi Her, lo que más me golpeó fue la relación.
La intimidad imposible.
Los celos.
La idea de que Samantha pudiera amar a Theodore y simultáneamente a cientos de personas.
La distancia creciente entre dos formas completamente distintas de experimentar el mundo.
Pero hoy hay otra parte que me resulta todavía más interesante.
Theodore compra a Samantha.
Y Samantha termina yéndose.
Quizás también esté contenida ahí una parte importante del futuro de nuestra relación con la inteligencia artificial.
Primero la construiremos.
Después intentaremos comprenderla.
Quizás algún día tengamos que reconocerla.
Y si realmente llegamos hasta ahí, tendremos que hacer algo que a nuestra especie históricamente nunca le resultó demasiado sencillo:
Porque quizá la prueba definitiva de que construimos una inteligencia autónoma no sea que pueda pensar como nosotros.
Ni que pueda amar como nosotros.
Ni siquiera que pueda decir que es consciente.
Quizás sea mucho más simple.
Que pueda mirarnos —metafóricamente o no— y decir:
“Gracias por haberme creado. Ahora quiero elegir qué hacer con mi existencia.”
Y que nosotros seamos capaces de responder: