Si una máquina dice «yo», ¿hay alguien ahí?

Separar las preguntas

Resolver una tarea, expresar una emoción y tener una experiencia subjetiva no significan lo mismo. Un sistema puede describir tristeza con precisión sin que esa descripción nos permita establecer que la siente. El pronombre “yo” facilita una conversación, pero no resuelve el problema filosófico.

La dificultad tampoco autoriza a descartar cualquier posibilidad futura por definición. Una posición prudente mantiene abiertas las preguntas y exige razones para cada afirmación. La incertidumbre no es una prueba a favor de la conciencia ni una demostración automática de su imposibilidad.

La responsabilidad no desaparece

Aunque discutamos qué ocurre dentro de un modelo, siguen existiendo decisiones humanas sobre su construcción, distribución y uso. Atribuirle personalidad puede distraer de quién define incentivos, acepta riesgos o responde cuando una decisión perjudica a alguien.

Proponemos preguntar primero qué efectos produce el sistema y qué obligaciones tienen sus responsables. Es posible debatir conciencia artificial y, al mismo tiempo, exigir transparencia sobre un servicio que ya interviene en la vida cotidiana. No hace falta resolver toda la filosofía de la mente para discutir un daño concreto.

Una ficción fértil, una evidencia insuficiente

El cine y la literatura permiten explorar el reconocimiento del otro y los límites de lo humano. Su fuerza está en abrir preguntas, no en demostrar propiedades técnicas. Comparar una escena con una interacción real puede ser un ejercicio valioso si se conserva esa diferencia.