La Corte bonaerense presentó un reglamento sobre el uso de la IA: Prohíbe que dicte sentencias o valore pruebas
Los supremos establecieron límites estrictos para evitar que el sistema reemplace a las decisiones humanas. Se trata de un proyecto en construcción y abrieron una consulta participativa al Poder judicial para que hagan sus aportes.
:format(webp):quality(75)/https://lanoticia1cdn.eleco.com.ar/media/2025/04/suprema_corte_bonaerense.jpg)
La Suprema Corte de Justicia de la provincia de Buenos Aires puso en consulta pública un proyecto de reglamento denominado “Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial” para el desarrollo y uso responsable de herramientas de IA en el ámbito judicial.
La medida forma parte del proceso de modernización tecnológica que viene llevando adelante el máximo tribunal y busca establecer un marco institucional y jurídico para la incorporación progresiva de sistemas de IA en la administración de justicia, garantizando su utilización de manera segura, ética y respetuosa de los derechos fundamentales.
Además, creó una “Comisión de Gobernanza y Uso de Inteligencia Artificial” que tendrá a su cargo la supervisión de la iniciativa, y se decidió la apertura de un proceso de consulta participativa desde el 24 de junio hasta el 7 de agosto para que magistrados, funcionarios, agentes, colegios profesionales, instituciones académicas y demás interesados formulen observaciones y aportes al proyecto a través de la web.
Bajo la premisa de que “la función jurisdiccional es indelegable e insustituible”, busca evitar que las herramientas tecnológicas reemplacen el razonamiento humano en la toma de decisiones judiciales.
“El uso de herramientas de IA no exime de su plena responsabilidad al operador judicial, por el contenido, validez y legalidad de los actos en los que aquellas hubieren intervenido, debiendo en todos los casos ejercer un control sustantivo, efectivo y documentado sobre los resultados producidos por dichos sistemas, sin perjuicio de la responsabilidad que pudiere corresponder al proveedor de la herramienta conforme la normativa aplicable”, señalaron desde el máximo tribunal provincial.
En esa línea, mencionaron que “bajo ninguna circunstancia se puede delegar en una IA la toma de decisiones judiciales que impliquen la resolución del proceso o procedimiento administrativo, la valoración de pruebas o la construcción del razonamiento jurídico que fundamenta una resolución o sentencia”.
Lo propio en cuanto al "tratamiento de datos personales mediante sistemas de IA, el que debe ajustarse estrictamente a lo dispuesto por la Ley Nº 25.326 de Protección de los Datos Personales y su normativa reglamentaria, asegurando la confidencialidad, integridad y seguridad de la información".
Asimismo, hicieron hincapié en que “lejos de ser neutrales u objetivos, los sistemas de IA pueden reproducir —e incluso amplificar— sesgos, errores y patrones discriminatorios presentes en los datos con los que fueron entrenados”. También que “pueden debilitar el juicio crítico de los operadores judiciales a través del denominado sesgo de automatización, que lleva a otorgar confianza excesiva a las recomendaciones algorítmicas”.
Entre los objetivos del futuro reglamento figuran la mejora de la eficiencia en los procesos judiciales y administrativos, el fortalecimiento del acceso a la justicia mediante la reducción de barreras tecnológicas, lingüísticas y geográficas, y el apoyo a la labor jurisdiccional sin reemplazar el razonamiento ni la decisión humana.
Finalmente, la Corte le prohibió a sus integrantes el uso de chatbots de acceso gratuito o comercial (como ChatGPT) para tratar información judicial sensible o investigaciones en curso, ante el riesgo de que esos datos personales sean utilizados para entrenar modelos futuros fuera del control institucional.
Para comentar, debés estar registradoPor favor, iniciá sesión