Inteligencia Artificial: el debate sobre su poder en la justicia
La inteligencia artificial ya decide antes que muchos jueces y médicos, y 52 psiquiatras y juristas se reunieron el 3 de octubre para preguntarse quién manda: el ser humano o la máquina. El encuentro tuvo lugar durante las XX Jornadas de Documentos Jurídico-Psiquiátricos, con magistrados del Tribunal Constitucional y del Supremo entre los ponentes. El consenso fue claro: la tecnología avanza más rápido que las instituciones que deberían vigilarla.
De Porres y la IA en los tribunales: una cosa es buscar jurisprudencia y otra redactar sentencias
El magistrado del Tribunal Supremo Eduardo de Porres trazó la línea que separa dos usos distintos de la IA en la carrera judicial. Como auxiliar para tareas de búsqueda de jurisprudencia, admite recorrido. Como redactora de resoluciones, no.
De Porres citó un sistema desarrollado por un compañero de carrera que genera borradores de sentencia a partir de la demanda y la documentación procesal. Su advertencia: aunque la máquina produzca textos coherentes, el juez debe estudiar personalmente el caso y construir su propio criterio jurídico.
El magistrado se apoyó en las pautas del Consejo General del Poder Judicial (CGPJ): herramientas autorizadas, protección de datos y control humano "real y efectivo" para preservar la integridad y la diligencia judicial. Y una alerta práctica: nada de subir documentos confidenciales a plataformas externas.
Chatbots y adolescentes: el aviso de los psiquiatras sobre ideación suicida
El psiquiatra Carlos Roncero puso el foco en la otra orilla del debate: los chatbots que interactúan con población vulnerable, en especial niños y adolescentes. La pregunta incómoda: ¿cómo responde una IA cuando el usuario expresa ideación suicida?
Roncero reclamó un control estricto para que estos sistemas redirijan al usuario hacia profesionales sanitarios en lugar de reforzar pensamientos autodestructivos. La investigación citada en el encuentro ya documenta casos de chatbots que reforzaron ideas suicidas en adolescentes y generaron dependencia emocional.
Te puede interesar
Inteligencia Artificial: el costo ambiental de su infraestructura
Sobre la mesa estuvo también la posibilidad de restringir el acceso por edad, aunque los participantes reconocieron la dificultad de regular un ámbito que muta a esa velocidad.
Campo, Valor y el resto de la mesa: el equilibrio entre eficiencia y autonomía
El debate contó además con el magistrado del Constitucional Juan Carlos Campo, los psiquiatras Pedro Moreno y Paz García-Portilla y el filósofo Juan Antonio Valor. Entre todos dibujaron la tensión central: la IA puede mejorar la toma de decisiones profesionales y la asistencia sanitaria, pero a costa de riesgos de manipulación y pérdida de autonomía individual.
La conclusión práctica para despachos y juristas de empresa es directa: las herramientas de IA ya están dentro del circuito judicial, y la vara de medir la fija el CGPJ. Usar modelos no autorizados o verter documentación confidencial en plataformas externas no es una zona gris, es una infracción de la diligencia debida.
El próximo capítulo de este debate se escribirá en la práctica diaria de los juzgados y las consultas, no en otra jornada. Cuando un borrador de sentencia generado por IA llegue a manos de un juez con criterio propio, ¿quién firma realmente la resolución?
Información publicada originalmente por Confilegal.