David Wakeling, jefe del grupo de innovación de mercados del bufete de abogados con sede en Londres Allen & Overy, se encontró por primera vez con la herramienta de inteligencia artificial generativa Harvey enfocada en la ley en septiembre de 2022. Se acercó a OpenAI, el desarrollador del sistema, para realizar un pequeño experimento. Un puñado de abogados de su firma usaría el sistema para responder preguntas simples sobre la ley, redactar documentos y dar los primeros pasos en los mensajes a los clientes.
El juicio comenzó pequeño, dice Wakeling, pero pronto se disparó. Alrededor de 3.500 trabajadores en las 43 oficinas de la empresa terminaron utilizando la herramienta, realizando alrededor de 40.000 consultas en total. El bufete de abogados ahora se ha asociado para usar la herramienta de IA más ampliamente en toda la empresa, aunque Wakeling se negó a decir cuánto valía el acuerdo. Según Harvey, uno de cada cuatro en el equipo de abogados de Allen & Overy ahora usa la plataforma de IA todos los días, y el 80 por ciento la usa una vez al mes o más. Otros grandes bufetes de abogados también están comenzando a adoptar la plataforma, dice la compañía.
El auge de la IA y su potencial para interrumpir la industria legal se ha pronosticado varias veces antes . Pero el surgimiento de la última ola de herramientas de IA generativa, con ChatGPT a la vanguardia, tiene a los miembros de la industria más convencidos que nunca.
“Creo que es el comienzo de un cambio de paradigma”, dice Wakeling. “Creo que esta tecnología es muy adecuada para la industria legal”.
La IA generativa está teniendo un momento cultural y comercial , siendo promocionada como el futuro de la búsqueda , provocando disputas legales sobre derechos de autor y causando pánico en escuelas y universidades .
La tecnología, que utiliza grandes conjuntos de datos para aprender a generar imágenes o texto que parezcan naturales, podría ser una buena opción para la industria legal, que depende en gran medida de documentos y precedentes estandarizados.
“Las aplicaciones legales como contratos, traspasos o generación de licencias son en realidad un área relativamente segura en la que emplear ChatGPT y sus primos”, dice Lilian Edwards, profesora de derecho, innovación y sociedad en la Universidad de Newcastle. “La generación automatizada de documentos legales ha sido un área de crecimiento durante décadas, incluso en los días tecnológicos basados en reglas, porque los bufetes de abogados pueden recurrir a grandes cantidades de plantillas altamente estandarizadas y bancos precedentes para crear andamios en la generación de documentos, lo que hace que los resultados sean mucho más predecibles que con la mayoría salidas de texto libre.”
Pero los problemas con las generaciones actuales de IA generativa ya han comenzado a mostrarse. Lo más significativo es su tendencia a inventar cosas con confianza , o “alucinar”. Eso es bastante problemático en la búsqueda, pero en la ley, la diferencia entre el éxito y el fracaso puede ser grave y costosa.
Por correo electrónico, Gabriel Pereyra, fundador y director ejecutivo de Harvey, dice que la IA tiene una serie de sistemas para prevenir y detectar alucinaciones. “Nuestros sistemas están ajustados para casos de uso legal en conjuntos de datos legales masivos, lo que reduce en gran medida las alucinaciones en comparación con los sistemas existentes”, dice.
Aun así, Harvey se ha equivocado, dice Wakeling, razón por la cual Allen & Overy tiene un cuidadoso programa de gestión de riesgos en torno a la tecnología.
“Tenemos que proporcionar el más alto nivel de servicios profesionales”, dice Wakeling. “No podemos permitir que las alucinaciones contaminen el asesoramiento legal”. Los usuarios que inician sesión en el portal Harvey de Allen & Overy se enfrentan a una lista de reglas para usar la herramienta. ¿El más importante, para la mente de Wakeling? “Debes validar todo lo que sale del sistema. Tienes que revisar todo”.
Wakeling ha quedado particularmente impresionado con la destreza de Harvey en la traducción. Es fuerte en la ley convencional, pero lucha en nichos específicos, donde es más propenso a las alucinaciones. “Conocemos los límites, y la gente ha sido muy bien informada sobre el riesgo de alucinaciones”, dice. “Dentro de la empresa, hemos hecho todo lo posible con un gran programa de capacitación”.
Otros abogados que hablaron con WIRED se mostraron cautelosamente optimistas sobre el uso de la IA en su práctica.
“Ciertamente es muy interesante y definitivamente indicativo de algunas de las fantásticas innovaciones que se están produciendo dentro de la industria legal”, dice Sian Ashton, socia de transformación de clientes en la firma de abogados TLT. “Sin embargo, esta es definitivamente una herramienta en su infancia y me pregunto si realmente está haciendo mucho más que proporcionar documentos precedentes que ya están disponibles en el negocio o en los servicios de suscripción”.
Es probable que la IA se siga utilizando para el trabajo de nivel de entrada, dice Daniel Sereduick, un abogado de protección de datos con sede en París, Francia. “La redacción de documentos legales puede ser una tarea muy laboriosa que AI parece ser capaz de comprender bastante bien. Los contratos, las políticas y otros documentos legales tienden a ser normativos, por lo que las capacidades de AI para recopilar y sintetizar información pueden hacer mucho trabajo pesado”.
Pero, como descubrió Allen & Overy, el resultado de una plataforma de IA necesitará una revisión cuidadosa, dice. “Parte de la práctica de la ley consiste en comprender las circunstancias particulares de su cliente, por lo que el resultado rara vez será óptimo”.
Sereduick dice que si bien los resultados de la IA legal necesitarán un seguimiento cuidadoso, las entradas podrían ser igualmente difíciles de administrar. “Los datos enviados a una IA pueden convertirse en parte del modelo de datos y/o datos de entrenamiento, y esto muy probablemente violaría las obligaciones de confidencialidad de los clientes y los derechos de privacidad y protección de datos de las personas”, dice.
Este es un problema particularmente en Europa, donde el uso de este tipo de IA podría violar los principios del Reglamento General de Protección de Datos (GDPR) de la Unión Europea, que rige la cantidad de datos sobre individuos que las empresas pueden recopilar y procesar.
“¿Puedes usar legalmente una pieza de software construida sobre esa base [de raspado masivo de datos]? En mi opinión, esta es una pregunta abierta”, dice el experto en protección de datos Robert Bateman.
Es probable que los bufetes de abogados necesiten una base legal firme en virtud del RGPD para alimentar cualquier dato personal sobre los clientes que controlan en una herramienta de IA generativa como Harvey, y contratos vigentes que cubran el procesamiento de esos datos por parte de terceros que operan las herramientas de IA, dice Bateman.
Wakeling dice que Allen & Overy no está utilizando datos personales para el despliegue de Harvey, y no lo haría a menos que pudiera estar convencido de que los datos estarían protegidos y protegidos de cualquier otro uso. Decidir cuándo se cumplió ese requisito sería un caso para el departamento de seguridad de la información de la empresa. “Estamos siendo extremadamente cuidadosos con los datos de los clientes”, dice Wakeling. “En este momento lo estamos usando como un sistema de datos no personales, de datos que no son del cliente para ahorrar tiempo en la investigación o redacción, o en la preparación de un plan para diapositivas, ese tipo de cosas”.
El derecho internacional ya se está endureciendo cuando se trata de alimentar herramientas de IA generativa con datos personales. En toda Europa, la Ley de IA de la UE busca regular de manera más estricta el uso de la inteligencia artificial. A principios de febrero, la Agencia de Protección de Datos de Italia intervino para evitar que el chatbot generativo de inteligencia artificial Replika utilizara los datos personales de sus usuarios.
Pero Wakeling cree que Allen & Overy puede hacer uso de la IA mientras mantiene los datos de los clientes seguros y protegidos, al mismo tiempo que mejora la forma en que funciona la empresa. “Va a marcar una verdadera diferencia material en la productividad y la eficiencia”, dice. Las pequeñas tareas que de otro modo tomarían minutos valiosos del día de un abogado ahora pueden subcontratarse a AI. “Si agrega eso a los 3.500 abogados que tienen acceso ahora, eso es mucho”, dice. “Incluso si no es una disrupción completa, es impresionante”.
Fuente:
Stokel-Walker, C. (2023, 21 febrero). Generative AI Is Coming for the Lawyers. WIRED UK. https://www.wired.co.uk/article/generative-ai-is-coming-for-the-lawyers