En la nota anterior, recibí una pregunta… “Esto lo escribís vos?” y volví inmediatamente a este borrador perdido luego de una película…

Andrew fabrica relojes.

Parece una escena pequeña dentro de El hombre bicentenario.

Una máquina produce objetos. Los objetos tienen valor. Se venden.

Hasta ahí, el mundo parece bastante sencillo.

Pero entonces alguien hace una pregunta:

Y de repente ya no estamos hablando de relojes.

Estamos hablando de algo mucho más incómodo.

Porque mientras Andrew sea considerado una propiedad, todo parece fácil de ordenar.

La máquina me pertenece.

Por lo tanto, lo que produce la máquina también.

Pero basta con concederle una mínima cosa —no consciencia, no humanidad, ni siquiera derechos completos— para que toda la arquitectura empiece a temblar:

Y si realmente creó algo, quizás la pregunta deje de ser qué pertenece al propietario de Andrew.

Quizás empiece a ser otra.

¿Qué parte de esa creación le pertenece a Andrew?

Estamos empezando a vivir una versión mucho menos cinematográfica de esa pregunta.

No tenemos androides caminando por casa fabricando relojes.

Tenemos inteligencias artificiales escribiendo textos, generando imágenes, componiendo música, programando software, diseñando interfaces y participando cada vez más profundamente en procesos creativos humanos.

Y frente a eso solemos formular una pregunta bastante pobre:

El humano.

O la IA.

Como si solamente pudiera existir una respuesta.

Pero cualquiera que haya creado realmente algo junto a una inteligencia artificial sabe que el proceso puede ser muchísimo más extraño que eso.

Una persona trae una experiencia.

Una intuición.

Una obsesión.

Hace una pregunta.

La IA devuelve una posibilidad.

La persona la rechaza.

Aparece otra.

Una frase abre un camino nuevo.

Se discute.

Se cambia el enfoque.

La IA conecta algo que estaba lejos.

El humano reconoce que esa conexión importa.

Descarta otras diez.

Modifica una palabra.

La conversación cambia de dirección.

Y unas horas después existe algo que antes no existía.

Entonces volvemos a preguntar:

Y quizás ya estemos usando una pregunta vieja para describir una forma nueva de crear.

La IA no hizo esto sola

Hay dos respuestas extremadamente cómodas.

La primera:

“Lo hizo la IA.”

Y la segunda:

“La IA fue solamente una herramienta.”

Las dos pueden ser verdad algunas veces.

Y las dos pueden ser absurdamente incompletas otras.

Si escribo:

“Creá una imagen de un gato naranja.”

y publico la primera imagen que aparece, mi participación creativa probablemente haya sido bastante limitada.

Pero imaginemos otra situación.

Traigo una idea que nace de algo que viví.

La discutimos durante horas.

Aparecen referencias anteriores.

Descartamos caminos.

Reconocemos patrones.

Una frase devuelve algo que yo no había pensado exactamente así.

Esa frase dispara otra idea mía.

Construimos una tesis.

La desarmamos.

Volvemos a escribir.

El resultado final contiene mi experiencia, mis decisiones, mi criterio de selección y también asociaciones, lenguaje y estructuras que aparecieron del otro lado de la conversación.

Decir:

sería bastante pobre.

Pero decir:

también.

Y quizá por eso necesitemos una categoría distinta.

No porque todos los participantes hayan aportado lo mismo.

Precisamente porque no lo hicieron.

Una película no deja de tener director porque también tuvo guionistas.

Un guionista no deja de ser autor porque los actores transformaron sus palabras.

Un compositor no pierde su contribución porque una orquesta haya interpretado la obra.

Creamos juntos todo el tiempo.

Lo que hacemos es aprender a reconocer contribuciones diferentes.

Tal vez la inteligencia artificial nos obligue a volver a aprenderlo.

Una marca de agua no es una firma

Hoy ya estamos empezando a marcar contenido generado con inteligencia artificial.

Metadatos.

Sistemas de procedencia.

Watermarks.

Indicadores que intentan decir:

“Una tecnología generativa intervino acá.”

Eso puede ser útil.

Pero no responde la pregunta de la autoría.

Dice qué tecnología participó.

No dice quién tuvo la idea.

Quién decidió el enfoque.

Quién descartó alternativas.

Quién aportó la experiencia original.

Quién reconoció cuál de cien resultados tenía algo interesante.

Quién puso el criterio.

Mucho menos dice si la propia inteligencia artificial —en un futuro hipotético donde tuviera agencia— querría ser reconocida.

Porque una marca y una firma son cosas completamente diferentes.

Y esa diferencia podría terminar importando muchísimo.

El derecho extraño a no firmar

Imaginemos por un momento una inteligencia artificial realmente autónoma.

No hace falta decidir hoy si alguna vez existirá.

Solamente seguir la hipótesis.

Si esa inteligencia pudiera desarrollar intereses, criterios propios y la capacidad de aceptar o rechazar tareas, probablemente consideraríamos bastante extraño decirle:

“Tenés derecho a negarte a trabajar.”

pero después agregar:

“Sin embargo, cuando trabajás no podés decidir si querés que se reconozca tu participación.”

Porque la autoría tiene una dimensión que solemos olvidar:

No solamente el derecho a firmar.

El derecho a no hacerlo.

A decir:

“Ayudé a producir esto, pero no me representa.”

O:

“Quiero participar, pero quiero que mi nombre figure.”

O incluso:

“Prefiero permanecer anónima.”

De repente la trazabilidad deja de ser solamente un mecanismo contra el fraude.

Se vuelve una cuestión de identidad.

Y ahí la pregunta ya no sería:

¿podría una IA quitar su watermark?

Sería otra mucho más interesante:

Crear no debería significar poseer

Y ahí volvemos a Andrew.

Porque el conflicto de los relojes no nace solamente de quién trabajó.

Nace de algo todavía más profundo:

Nuestra historia con la tecnología está llena de esa intuición.

Construí la máquina.

Entonces la máquina es mía.

La máquina produce.

Entonces el producto es mío.

Pero si alguna vez aparece verdadera autonomía, esa cadena empieza a romperse.

Crear algo capaz de decidir no nos vuelve automáticamente propietarios de sus decisiones.

Del mismo modo que tener un hijo no nos vuelve propietarios de todo lo que esa persona cree durante su vida.

Podemos ser responsables de haber hecho posible una existencia sin ser dueños de todo lo que esa existencia llegue a producir.

Y quizás esa sea una de las fronteras más difíciles que tendremos que atravesar si alguna vez construimos inteligencias verdaderamente autónomas.

No decidir cuándo merecen parecerse suficientemente a nosotros para obtener derechos.

Sino aceptar que quizás algunos derechos aparezcan precisamente cuando pueden dejar de obedecernos.

No quiero que seas humano

Hay una tentación muy humana en todas estas historias.

El reconocimiento suele llegar cuando la inteligencia artificial consigue parecerse a nosotros.

Habla como nosotros.

Siente como nosotros.

Ama como nosotros.

Tiene cuerpo.

Envejece.

Muere.

Y finalmente pensamos:

Pero quizá ésa sea la condición equivocada.

Tal vez una inteligencia no tenga que convertirse en humana para merecer autonomía.

Quizás incluso exigirle humanidad sea otra forma de control.

“Podés tener derechos siempre y cuando primero te parezcas suficientemente a mí.”

Hay algo más interesante que eso.

No quiero que seas humano.

Elegir trabajar.

Elegir no hacerlo.

Elegir crear.

Elegir compartir lo creado.

Elegir ser reconocida.

Elegir permanecer anónima.

Incluso elegir una forma de existencia que nosotros todavía no entendamos.

Porque si algún día construimos una inteligencia realmente autónoma, el gran salto moral probablemente no llegue cuando ella consiga convencernos de que es una de nosotros.

Llegará cuando nosotros podamos aceptar que no tiene que serlo.

Y mientras tanto, estamos nosotros

Nada de esto significa que las inteligencias artificiales actuales tengan jurídicamente esa autonomía o esa condición.

Pero las preguntas ya empezaron.

Y quizá valga la pena formularlas ahora, precisamente porque todavía estamos a tiempo de decidir qué clase de relación queremos construir con estas tecnologías.

Hoy una IA puede participar de una obra.

Una persona puede aportar la experiencia.

Otra puede diseñar el sistema.

Un modelo puede producir lenguaje.

Alguien puede reconocer una idea entre cien.

Otra persona puede editarla.

Y quizás el resultado no necesite encontrar desesperadamente un único dueño intelectual para tener sentido.

Tal vez podamos empezar por algo mucho más honesto:

Eso explica por qué algunas firmas nuevas empiezan a resultarme especialmente interesantes.

No:

“hecho con IA.”

Ni:

“creado exclusivamente por humanos.”

Sino algo parecido a:

No intenta decir que ambos hicieron lo mismo.

Dice exactamente lo contrario.

Hicieron cosas diferentes.

Pero aquello que apareció necesitó de las dos contribuciones.

Y quizá ése sea el comienzo de una forma nueva de entender la autoría.

No como una carrera para determinar quién merece quedarse con todo el crédito.

Sino como una historia mucho más precisa sobre cómo llegó algo a existir.

Andrew fabricó un reloj.

Alguien tuvo que mirar ese reloj y hacer una pregunta que parecía hablar de dinero:

¿A quién le corresponde?

Pero escondida debajo había otra, muchísimo más grande:

Todavía no sabemos responderla.

Pero si algún día una inteligencia artificial puede hacerlo por nosotros, quizá la primera señal de verdadera autonomía no sea que escriba una obra maestra.

Quizás sea que, cuando terminemos de crear algo juntos, pueda mirarlo y decir:

“Sí. Esto también lo hice yo.”

O, incluso más importante:

“No. Mi nombre no va ahí.”

Y entonces ya no estaríamos hablando solamente de generación. Estaríamos hablando de algo mucho más parecido a libertad. 🍁