¿Qué pasará cuando la tecnología encabece las decisiones legales?
Viernes 15 de
Junio 2018
"Inteligencia artificial" es el nuevo concepto de moda. Se menciona en las reuniones de directorio de empresas de marketing, logística, la industria financiera, de la salud y muchas otras. Esta tecnología aporta un nivel de autonomía a los sistemas y, en varias oportunidades, los servicios digitales colisionaron e incluso entraron en conflicto con la aplicación de la ley.
¿Qué pasa cuando las tecnologías como, por ejemplo, el software de aprendizaje profundo y el código de autoejecución encabezan las decisiones legales? ¿Cómo se puede asegurar que los sistemas de "tecnología legal" de la próxima generación no están injustamente sesgados en contra de ciertos grupos o individuos? ¿Y qué habilidades necesitarán desarrollar los abogados para poder evaluar adecuadamente la calidad de la justicia que fluye de las decisiones basadas en datos?
Si bien los empresarios han estado observando los procesos legales tradicionales desde hace algunos años, con un brillo de reducción de costos en sus ojos y la palabra 'racionalizar' en sus labios, esta primera fase de innovación legal palidece en importancia. El potencial transformador de las tecnologías de inteligencia artificial ya tienen a muchos escribiendo algoritmos relacionados con procesos legales.
Pero, ¿cómo pueden salvaguardarse las protecciones legales si las decisiones son automatizadas mediante modelos algorítmicos entrenados en conjuntos de datos discretos, o provenientes de políticas administradas al integrarse en una blockchain?
Este es el tipo de preguntas que la abogada y filósofa Mireille Hildebrandt, profesora del grupo de investigación de Derecho, Ciencia, Tecnología y Sociedad de Vrije Universiteit Brussels en Bélgica, formulará y responderá durante un proyecto de cinco años para investigar las implicaciones de lo que ella llama 'ley computacional'.
El mes pasado, el Consejo Europeo de Investigación otorgó a Hildebrandt una subvención de 2,5 millones de euros para llevar a cabo una investigación fundamental con un enfoque de doble tecnología: inteligencia legal artificial y aplicaciones legales de blockchain.
Hablando de su plan de investigación con TechCrunch, ella describe el proyecto como muy abstracto y muy práctico, con un equipo que incluirá tanto a abogados como a científicos informáticos. Su intención es crear una nueva hermenéutica legal, es decir, un marco para que los abogados aborden las arquitecturas de leyes computacionales de forma inteligente; comprender las limitaciones e implicaciones, y ser capaz de hacer las preguntas correctas para evaluar las tecnologías que cada vez más se ponen a trabajar para evaluarnos.
"La idea es que los abogados se reúnan con los informáticos para entender a qué se enfrentan", explica. "Quiero tener esa conversación … Quiero que los abogados que son analíticamente muy agudos y filosóficamente interesados se reúnan con los científicos informáticos y entiendan el idioma de los demás.
"No vamos a desarrollar un lenguaje común. Eso no va a funcionar, estoy convencida. Pero deben ser capaces de entender cuál es el significado de un término en la otra disciplina, y aprender a jugar, y decir que está bien, ver la complejidad en ambos campos, alejarse de tratar de hacerlo todo muy simple.
“Y después de ver la complejidad para poder explicarlo de una manera que las personas que realmente importan, que somos ciudadanos, podamos tomar decisiones tanto a nivel político como en la vida cotidiana”.
Hildebrandt dice que incluyó las tecnologías de IA y blockchain en el ámbito del proyecto, ya que ambas ofrecen "dos tipos muy diferentes de leyes computacionales".
También existe la posibilidad de que los dos se apliquen en combinación, creando "un conjunto completamente nuevo de riesgos y oportunidades" en un entorno tecnológico legal.
Blockchain "congela el futuro", argumenta Hildebrandt, admitiendo que es la tecnología de la que es más escéptica en este contexto. "Una vez que lo pones en una cadena de bloques, es muy difícil cambiar de opinión, y si estas reglas se refuerzan, sería un asunto muy costoso tanto en términos de dinero como en términos de esfuerzo, tiempo, confusión e incertidumbre. si quieres cambiar eso.
“Puedes hacer un fork pero no, creo, cuando los gobiernos están involucrados. No pueden simplemente bifurcar “.
Dicho esto, ella postula que blockchain podría en algún momento en el futuro ser considerado un mecanismo alternativo atractivo para que los estados y las compañías se asienten en un sistema menos complejo para determinar obligaciones bajo la ley de impuestos global, por ejemplo. (Asumiendo que tal acuerdo podría ser alcanzado).
Dado cuán complejo puede ser el cumplimiento legal para las plataformas de Internet que operan a través de las fronteras y se cruzan con diferentes jurisdicciones y expectativas políticas, puede llegar el momento en que se considere necesario un nuevo sistema para aplicar las reglas, y poner las políticas en una cadena de bloques podría ser una forma de responder a toda la superposición caótica.
Aunque Hildebrandt es cautelosa sobre la idea de los sistemas basados en blockchain para el cumplimiento legal.
Si bien los empresarios han estado observando los procesos legales tradicionales desde hace algunos años, con un brillo de reducción de costos en sus ojos y la palabra 'racionalizar' en sus labios, esta primera fase de innovación legal palidece en importancia. El potencial transformador de las tecnologías de inteligencia artificial ya tienen a muchos escribiendo algoritmos relacionados con procesos legales.
Pero, ¿cómo pueden salvaguardarse las protecciones legales si las decisiones son automatizadas mediante modelos algorítmicos entrenados en conjuntos de datos discretos, o provenientes de políticas administradas al integrarse en una blockchain?
Este es el tipo de preguntas que la abogada y filósofa Mireille Hildebrandt, profesora del grupo de investigación de Derecho, Ciencia, Tecnología y Sociedad de Vrije Universiteit Brussels en Bélgica, formulará y responderá durante un proyecto de cinco años para investigar las implicaciones de lo que ella llama 'ley computacional'.
El mes pasado, el Consejo Europeo de Investigación otorgó a Hildebrandt una subvención de 2,5 millones de euros para llevar a cabo una investigación fundamental con un enfoque de doble tecnología: inteligencia legal artificial y aplicaciones legales de blockchain.
Hablando de su plan de investigación con TechCrunch, ella describe el proyecto como muy abstracto y muy práctico, con un equipo que incluirá tanto a abogados como a científicos informáticos. Su intención es crear una nueva hermenéutica legal, es decir, un marco para que los abogados aborden las arquitecturas de leyes computacionales de forma inteligente; comprender las limitaciones e implicaciones, y ser capaz de hacer las preguntas correctas para evaluar las tecnologías que cada vez más se ponen a trabajar para evaluarnos.
"La idea es que los abogados se reúnan con los informáticos para entender a qué se enfrentan", explica. "Quiero tener esa conversación … Quiero que los abogados que son analíticamente muy agudos y filosóficamente interesados se reúnan con los científicos informáticos y entiendan el idioma de los demás.
"No vamos a desarrollar un lenguaje común. Eso no va a funcionar, estoy convencida. Pero deben ser capaces de entender cuál es el significado de un término en la otra disciplina, y aprender a jugar, y decir que está bien, ver la complejidad en ambos campos, alejarse de tratar de hacerlo todo muy simple.
“Y después de ver la complejidad para poder explicarlo de una manera que las personas que realmente importan, que somos ciudadanos, podamos tomar decisiones tanto a nivel político como en la vida cotidiana”.
Hildebrandt dice que incluyó las tecnologías de IA y blockchain en el ámbito del proyecto, ya que ambas ofrecen "dos tipos muy diferentes de leyes computacionales".
También existe la posibilidad de que los dos se apliquen en combinación, creando "un conjunto completamente nuevo de riesgos y oportunidades" en un entorno tecnológico legal.
Blockchain "congela el futuro", argumenta Hildebrandt, admitiendo que es la tecnología de la que es más escéptica en este contexto. "Una vez que lo pones en una cadena de bloques, es muy difícil cambiar de opinión, y si estas reglas se refuerzan, sería un asunto muy costoso tanto en términos de dinero como en términos de esfuerzo, tiempo, confusión e incertidumbre. si quieres cambiar eso.
“Puedes hacer un fork pero no, creo, cuando los gobiernos están involucrados. No pueden simplemente bifurcar “.
Dicho esto, ella postula que blockchain podría en algún momento en el futuro ser considerado un mecanismo alternativo atractivo para que los estados y las compañías se asienten en un sistema menos complejo para determinar obligaciones bajo la ley de impuestos global, por ejemplo. (Asumiendo que tal acuerdo podría ser alcanzado).
Dado cuán complejo puede ser el cumplimiento legal para las plataformas de Internet que operan a través de las fronteras y se cruzan con diferentes jurisdicciones y expectativas políticas, puede llegar el momento en que se considere necesario un nuevo sistema para aplicar las reglas, y poner las políticas en una cadena de bloques podría ser una forma de responder a toda la superposición caótica.
Aunque Hildebrandt es cautelosa sobre la idea de los sistemas basados en blockchain para el cumplimiento legal.
Con información de
Infobae
