Jueces Robots? … a eso vamos.

Les comparto una noticia publicada recientemente que me resultó muy interesante:

Estonia se ha convertido en el primer país del mundo en proponer oficialmente la creación de un juez robot que sirva para descongestionar los juzgados del país. Y el encargo no ha recaído ni en juristas de reconocido prestigio ni en abogados con años de experiencia en el sector legal. El responsable del proyecto será Ott Velsberg, informático de profesión que ostenta el cargo público de responsable de datos de Estonia.

Eso no quiere decir que no se tenga en cuenta la opinión de los expertos en el mundo del derecho, pero sí pone de manifiesto la complejidad a la hora de encontrar perfiles profesionales donde han de confluir conocimientos hasta ahora propios de profesiones diferenciadas: abogado, ingeniero, informático, gestor de procesos, economista…

Aunque el caso de Estonia pueda sonar muy futurista y un proyecto a largo plazo, la realidad es que el sector jurídico ya está cambiando. Y lo hace a gran velocidad. Si hace cinco años era difícil encontrar un despacho que hablara sobre inteligencia artificial (IA), hoy resulta casi imposible que uno de los grandes bufetes internacionales no haya adquirido una licencia de software predictivo o, incluso, desarrollado su propio programa de IA.”

Para leer la nota completa, hacer click: Expansión

Fuente: Expansión.

Los algoritmos discriminan?

book-education-graphing-paper-167682.jpg

Los datos y los algoritmos tienen un rol cada vez más importante a la hora de realizar elecciones, en tanto con el análisis de la información podemos tomar decisiones con mayores fundamentos, más velocidad y menos errores. Sin duda lo anterior resulta muy beneficioso, pero se están planteando casos de discriminación, en tanto los algoritmos se alimenten de datos o criterios que –intencionalmente o no- pueden no ser neutrales y pueden terminar discriminando o vulnerando a determinados grupos.

Por ejemplo, hace poco se difundió que Amazon iba a prescindir de una Inteligencia Artificial de reclutamiento porque discriminaba a las mujeres. ¿Cómo una máquina puede discriminar?  — porque según se difundió, el sistema había sido alimentando con los datos de los perfiles de los ex trabajadores de los últimos 10 años, los cuales en su mayoría eran hombres. El sistema entendió que los hombres eran preferibles para cargos de software o puestos técnicos, por lo que penalizaba a las postulantes cuyos CVs incluían la palabra “mujer”[1].

Asimismo, se difundieron casos respecto a supuestos de racismo, por etnia u origen, de seguros médicos, de seguros para automóviles, etc… como señala Cathy O´Neil, PhD de Harvard, pensamos que las matemáticas son neutrales, pero en realidad no lo son, los algoritmos son pensados, elaborados y desarrollados por personas, que pueden tener diversos intereses y de esta forma manipular la toma de decisiones[2].

En vista de esta situación y de otras, de las cuales se está tomando conciencia, el pasado 8 de abril la Unión Europea publicó los lineamiento éticos para el desarrollo de una Inteligencia Artificial (IA) confiable, que parte de la base de que la IA debe: cumplir con las leyes y con las regulaciones, respetar los principios éticos y los valores, y establecer sistemas seguros técnica y socialmente[3].

Se establecieron 7 claves principales:

  • EMPODERAR A LAS PERSONAS Y SUPERVISIÓN: ayudándolos a tomar decisiones más informadas y a promover sus derechos.
  • SEGURIDAD: Los sistemas deben ser seguros y tener un plan de recuperación.
  • PRIVACIDAD Y CONTROL DE DATOS: asegurando el control, la integridad, la calidad y el acceso legítimo.
  • TRANSPARENCIA: el sistema y el modelo de negocios debe ser transparente, además los sistemas de IA y sus decisiones deben explicarse adaptándose al interesado.
  • DIVERSIDAD, NO DISCRIMINACIÓN Y EQUIDAD: debe evitarse los sesgos injustos, que podrían derivar en la marginación de grupos vulnerables. Deben ser accesibles para todos, independientemente de cualquier discapacidad e involucrar a las partes interesadas relevantes en todo el ciclo.
  • BIENESTAR SOCIAL Y AMBIENTAL: deben beneficiar a todos los seres humanos, por lo que deben ser sostenibles y respetuosos con el medio ambiente.
  • RESPONSABILIDAD: debe haber mecanismos para garantizar la responsabilidad y la rendición de cuentas de los sistemas de IA y sus resultados. Es clave la posibilidad de auditar y de evaluar los algoritmos, así como el proceso de diseño.

Es importante poder incorporar estos aspectos, a fin de dar seguridad y transparencia, promoviendo la innovación y el desarrollo de las nuevas tecnologías, sin vulnerar los derechos fundamentales.

[1]EL PAIS, URL: https://elpais.com/tecnologia/2018/10/11/actualidad/1539278884_487716.html

[2]BID: https://blogs.iadb.org/administracion-publica/es/quien-nos-protege-cuando-big-data-facilita-la-discriminacion/

[3]https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

ICTs and Human Rights

4k-wallpaper-adorable-blur-1148998.jpg

Comparto abstract del paper que presenté para la Inaugural Postgraduate Research Conference: “Contemporary challenges in international law”, realizado por la Universidad de Nebrija (España) y Coventry Law School (UK)

Abstract

The rise of information society has been disruptive, has changed our societies and economies, and has brought a lot of opportunities and challenges for everyone.

Internet and new technologies, facilitated the creation of new digital services and applications, which are held on online platforms, such as Twitter and Facebook, that have generated a digital ecosystem, which: erased frontiers, showed that we live in an international community, brought more access and empowered people. Nonetheless, the digital ecosystem has many risks, mainly in relation with Human Rights, which enforce authorities to face the necessity to achieve international solutions that allow the fully realization of those rights and freedoms which are recognized in different International Human Rights Instruments, such us the Universal Declaration of Human Rights (UDHR).

The UDHR proclaimed a common standard for all people and nations. It states the fundamental human rights to be protected universally by the rule of law and that have to be promoted by progressive measures to secure their effectiveness, still they are essential to achieve freedom, justice and peace in the world.

In the digital environment, some rights and freedoms have threats that must be considered, in order to find solutions that allow the development of the digital ecosystem, while protecting the fundamental rights of everyone.

For this paper, we will consider specially the following rights: privacy and data protection, freedom of expression and access to information, and non-discrimination.

(i) Privacy and data protection: the development of technology, the automatization, the increase of processing and storage capacity, allow different organizations to collect large amount of data and to use it for diverse purposes which could be very good for societies but which can also affect Human Rights.

(ii) Freedom of expression and access to information: express ourselves freely as well as receive information and ideas through any media, is vital for modern democracy, even though it could be restricted because of pressure on intermediaries, forcing them to filter content and to hand over some data. Also, it can be affected as a consequence of oppression or retaliation on specific groups, and for the practices that companies could have with networks.

(iii) Non-discrimination: when the information is analyzed automatically and different algorithms are developed, with or without intention, we can be discriminating, affecting essential aspects of our lives. This could happen when we use certain parameters that could be impartial. A clear example could be seen in the selection of human resources. If to create and describe a new position, we use the profile of older employees, in case the majority of them were men, probably the algorithm would prefer men rather than women.

In order to work in these challenges, different solutions are being analyzed, such as: reach global agreements, reform laws, empower people, enhance digital security, discourage discriminatory models, develop digital agendas and focus more on digital rights.

Those that work and develop better strategies for the digital environment, would be able to create better conditions for the future of their citizens.

Información = gran producto, ¿y los datos personales?

adventure-attraction-blurry-618545

Con la digitalización de los datos, tenemos más información, la cual tiene mucho valor, es un gran producto alrededor del cual se han generado diversas formas de comercialización, en tanto algunas empresas recopilan datos y actúan como asesoras de otras.

Hay diversas formas de llevar adelante este asesoramiento, a modo de ejemplo:

(i) Hay empresas que reúnen datos de gran variedad de fuentes –por ejemplo: el registro electoral, fallos judiciales, etc-, elaboran un perfil en base a dicha información y califican el riesgo de otorgar determinados préstamos. Por ejemplo: Experian actúa como una empresa de referencia y puntuación de crédito.

(ii) Otras empresas recopilan datos de sus clientes -a través por ejemplo de las tarjetas de fidelización y del análisis de las compras- para poder conocer los hábitos de compra y así mejorar sus servicios y productos. De esta manera pueden generar -por ejemplo- ofertas o promociones especiales que se adapten a las necesidades y gustos de sus consumidores, o identificar tendencias – de esta forma si una tienda pensó que en esta temporada se iban a vender muchas remeras amarillas, pero analizando la información ve que se venden muchas remeras azules y muy pocas amarillas, puede reaccionar rápidamente, atender el stock, la producción y por ende que la oferta responda a la demanda. Se suele decir que es el método que utiliza el grupo Inditex, parte de los cual le ha facilitado diferenciarse de la competencia.

(iii) También hay empresas que se dedican a investigar mercados para lo cual necesitan datos, que recopilan de diversas fuentes, que les permiten elaborar perfiles y vender sus conocimientos a otras empresas. Hay estudios de mercados tradicionales y también los hay a través de compañías de Internet. El ejemplo más conocido es el de Google, quien a través de su buscador recopila gran cantidad de datos y luego vende publicidad especializada en línea enfocada en el público objetivo.

(iv) Asimismo, hay compañías que recopilan información –por ejemplo de los hábitos en Internet- como intermediarios de otras y venden los datos como paquetes que ayudan a desarrollar productos, así como para enfocar la publicidad. El ejemplo más conocido son las redes sociales como Facebook.

(v) Por último, hay empresas que generan grandes bases de datos, que luego son utilizadas para enviar correos o llamadas para intentar vender sus productos y/o servicios.

Con la digitalización de la información y todos los datos que hay en línea, se han desarrollado diversos programas y tecnologías que nos permiten almacenar, procesar y analizar toda la información a gran velocidad, de manera simple, económica y automatizada… pudiendo ver, predecir y tomar decisiones más informadas en tiempo real.

Sin duda lo anterior tiene muchos beneficios, pero también implica muchos riesgos. Hay temas de seguridad, de categorizar los datos -las computadoras no tienen, por lo menos aún no la mayoría, la habilidad para determinar la naturaleza o la sensibilidad de la información-, debiendo buscar la mejor forma de proteger los derechos fundamentales de las personas, sobre todo su intimidad. 

Un caso muy conocido (ver aquí la nota) fue en el cual el padre de una adolescente fue a quejarse con una empresa en tanto le estaban enviando a su hija cupones de descuentos para ropa de bebés, lo cual teóricamente no tenía sentido. La empresa se disculpó con el padre al verificar que se le estaban haciendo esos envíos a su hija. Posteriormente, el padre confirmó que  la adolescente efectivamente estaba embarazada. 

Como muchas otras organizaciones, dicha empresa recopilaba datos de sus clientes de múltiples fuentes. Por ejemplo: de todo lo que los clientes compran en la tienda, si usan tarjeta de crédito, un cupón de descuento, si completa unan encuesta, de cuando llaman al servicio al cliente, cuando abren un correo que envía la empresa, cuando visitan su sitio web site, etc…, pero van más allá… también se recolecta información sobre la edad, sobre el estado civil, si tiene hijos, en dónde viven, el tipo de tarjetas de crédito que se tiene,  se puede estimar el salario, si se mudo recientemente, etc…. pero también se puede conseguir información sobre la historia laboral, el tipo de revistas que se lee, el año que se compró la casa, la universidad y/o colegio que fue, que tipo de temas hablas online, etc, etc, etc…. todo lo cual permite elaborar perfiles, segmentar, etc…  (ver aquí la nota).

Considerando lo anterior, no hay dudas de que la información se puede utilizar para fines muy buenos, pero también tiene muchos riesgos para la intimidad y la seguridad de las personas.

Hay que asegurar los derechos fundamentales de las personas, que las mismas conozcan qué datos se recopilan, por qué, para qué y que se almacenen otorgando la seguridad necesaria para evitar un mal uso de los mismos.

En esta línea, se suele indicar la importancia de establecer estándares que garanticen la seguridad de los datos, así como que los mismos sean los necesarios para el fin, estén actualizados y que las personas puedan ejercer sus derechos: acceso, rectificación, cancelación, oposición. Asimismo, el derecho al olvido y el de la portabilidad de los datos. 

 

Internet del valor? … bases de una blockchain

agreement-black-business-943630

Pasamos de Internet de la información a Internet del valor… esa es una de las formas en que se suele mostrar los beneficios de la tecnología blockchain, en tanto permite transmitir valor de forma digital, sin tener que confiar en una entidad central. 

Les comparto algunos conceptos básicos que creo que nos ayudan a comprender mejor qué es una blockchain, cuáles son sus elementos básicos y los tipos. 

¿Qué es una blockchain? – una base de datos, distribuida entre diversos participantes, organizada como una cadena de bloques, protegidos criptográficamente, que no pueden ser alterados, que mantiene un consenso que verifica y confirma las transacciones, haciéndolas irreversibles.

¿Cuáles son los elementos básicos de una blockchain? – (1) Nodos: ordenadores que forman una red, todos poseen el mismo software o protocolo que les permite conectarse y comunicarse entre sí. (2) Protocolo estándar: para que los nodos que forman la red se comuniquen entre sí, validen y almacenen la información registrada en la red. (3) Red entre pares: red de nodos conectados directamente. (4) Sistema descentralizado: no hay una jerarquía entre los nodos, todos son iguales entre sí.

Hay distintos tipos de blockchain: públicas, privadas y también las híbridas. 

  • Pública: cualquiera puede acceder, es abierta, descentralizada, todos los nodos son iguales, no se controla quienes participan, los propietarios no son identificables personalmente, aunque sus direcciones pueden ser rastreables. Las unidades que se utilizan para representar un registro suelen denominarse “tokens”. El ejemplo más conocido, la red de Bitcoin – en la misma juega un gran rol la minería y la prueba de trabajo (POW) -, pero no todas tienen la misma operativa.
  • Privada: es cerrada, aunque se pueden establecer diversos niveles de acceso, no toda la información en la blockchain es accesible o puede ser consultada. Es distribuida, se reparte entre varios nodos, aunque el número de nodos puede estar limitado. Además, se puede establecer el nivel de anonimato. Uno de los ejemplos más conocidos es Ripple, es abierto pero para las conversiones de divisas se debe estar previamente autorizado. Otras conocidas son las ofrecidas por la Fundación Linux. Las blockchain privadas suelen desarrollarse en  el sector financiero (o regulados) por la imposibilidad de compartir determinados datos de forma abierta, se les suele denominar Distributed Ledger Technology (DLT) o Tecnología del Libro Mayor Distribuido.
  • Híbridas: toman características de una y otra.

Espero sea de utilidad!

Fuente: Blockchain: la revolución industrial de Internet de Alex Preukschat (coord.)

Desafíos jurídicos ante la Digitalización?

calculating-challenge-champion-33390.jpg

El derecho busca responder y atender las realidades económicas y sociales, buscando la justicia, el equilibrio, y el bien común; mas actualmente, con la digitalización se enfrenta a múltiples desafíos porque:

(i) impacta a todos y en todo a velocidades exponenciales, lo cual  dificulta responder a tiempo y de la forma más adecuada;

(ii) el derecho siempre fue pensado para una realidad diferente a la actual, se desarrollaba pensando en supuestos físicos, tangibles, no se pensaba en intangibles–vale destacar que si bien se protegían intangibles representados en la propiedad intelectual, en general estaban sobre un tangible, como ser un libro o un disco-;

(iii) la información es valor, pero es muy difícil de proteger porque es fácilmente escalable, replicable y transmisible; y

(iv)un acercamiento fragmentado, como generalmente se hizo (y hace) en el derecho, ya no resulta suficiente.[1]

Esta nueva realidad desafía los derechos fundamentales de las personas -por ejemplo: alcance y límite de la libertad de expresión, la privacidad, la protección de los datos personales, la propiedad intelectual-, al tiempo que cambia los modelos de negocios – por ejemplo: a través del comercio electrónico, de las modalidades de pago electrónicas, todo lo cual impacta en la defensa de la competencia, en los derechos de los consumidores, así como en los ingresos de los gobiernos… -.

Ante este contexto tan cambiante, donde se generan profundas modificaciones de manera vertiginosa, los principios fundamentales toman cada vez mayor relevancia. Es fundamental analizar la nueva realidad en su globalidad, no podemos responder adecuadamente a la misma, pretendiendo que se ajuste a regulaciones pensadas para supuestos completamente diferentes.

 

[1]MURRAY ANDREW, Information Technology Law. The Law and Society. P. 12 y ss. Third edition. OXFORD, 2016.

Cómo hacemos la transformación digital?

adult-adventure-backpacker-1736222

BCG realizó un marco que comprende principalmente 4 aspectos sobre los cuales las empresas deben trabajar si quieren alcanzar con éxito la transformación digital y obtener ventajas competitivas.

El 1º componente – Analizar las tendencias digitales y plantearse cómo y hasta qué punto lo digital está cambiando la estrategia del modelo de negocio. Hay que pensar el modelo de forma íntegra, examinar -por ejemplo: cómo la información puede cambiar la forma en que interactuamos con nuestros clientes, cómo la automatización puede simplificar y automatizar los procesos- y entender cómo esto puede impactar en el modelo operativo.

El 2º componente – Evaluar cómo digitalizar las actividades principales de la empresa. Hay que recorrer toda la cadena de valor, desde la interacción con el cliente, los procesos, los controles, la cadena de suministro, alianzas, etc.

El 3º componente – Buscar oportunidades de crecimiento. Al realizar el análisis y optimizar, se pueden identificar activos que pueden aprovecharse, comercializarse, facilitando crear ventajas competitivas. Es importante identificar los valores que se pueden lograr, así como las capacidades que se tienen para conseguir más iniciativas.

El 4º componente – Se integra por los elementos que toda empresa requiere: (1) personas y buena organización – selección y formación, cambia la fuerza y la forma de trabajo-, (2) análisis de datos – crear arquitectura de datos, que nos permita ver y prever en tiempo real- , (3) tecnología – transformar el entorno, apalancarse en la interacción en tiempo real con la producción y con los clientes- y (4) ecosistema –esencial involucrarse con otros participantes de la industria, es muy difícil que una empresa por sí sola posea todos los activos necesarios para tener éxito en el nuevo mundo. Se requiere rapidez, eficacia y creatividad-.

Las empresas -en general- llevan adelante estos procesos de diversas maneras, tres buenos caminos son los siguientes:

(1) Mirar el futuro del modelo de negocio, crear una cartera de oportunidades y encaminar su implementación.

(2) Visión centrada en el cliente, enfocado en el viaje y experiencia del cliente.

(3) Enfoque de abajo hacia arriba, comienzan en unidades específicas, aprenden y luego lo amplían.

Para lograr el éxito en la transformación digital será esencial mirar y trabajar sobre todos estos elementos para desarrollar ventajas competitivas, estudiar nuestro camino e ir haciendo todos los ajustes que sean necesarios.

Fuente: BCG, Interview with Tom Reichert on the Framework