“Me parecen mucho más peligrosos los sesgos voluntarios que se introduzcan buscando fines torticeros que los que se cuelen y puedan ser corregidos”
OPINIÓN. Charlas con Nadie
Por Manuel Camas. Abogado
18/04/23. Opinión. El conocido abogado Manuel Camas escribe su colaboración para EL OBSERVADOR / www.revistaelobservador.com sobre la inteligencia artificial de ChatGPT: “Ante el poder inmenso que se nos muestra ya han empezado las voces que conminan a poner puertas al campo, la prohibición. Sin ningún género de dudas hay que establecer reglas que obliguen al uso más noble posible...
...de un poder tan abrumador. Para eso sirve justamente el Derecho pero, como no puede ser tampoco de otra forma, el Derecho va por detrás de la realidad que debe regular, en este caso tecnológica”.
Errores
Qué tema de conversación consideras el más interesante en este momento. Ante la dificultad de retomar estas líneas semanales tras el descanso justificado de la editorial en Semana Santa, busco sobre qué poder charlar con Nadie, reconozco que me controla cierta desgana primaveral.
Hago una pequeña encuesta entre mis allegados y, condicionado por sus respuestas, porque todas contenían alguna invocación a la tecnología y el cambio consiguiente, acabé reabriendo mi cuenta de conversación con la inteligencia artificial de ChatGPT, a la que también formulé mi pregunta, me contestó tan educada y cuidadosamente como acostumbra:
<Como una IA, no tengo la capacidad de tener preferencias personales, ya que soy un programa informático diseñado para proporcionar información y respuestas a las preguntas de los usuarios. Sin embargo, algunos temas que están siendo muy discutidos y pueden considerarse interesantes son:
- Tecnología y su impacto en la sociedad
- Cambio climático y sostenibilidad
- Salud mental y bienestar
- Política y economía global
- Innovación y emprendimiento
- Cultura y diversidad
- Ciencia y exploración espacial
Estos son solo algunos ejemplos de temas interesantes que están siendo discutidos en todo el mundo en este momento. Depende de los intereses personales y las perspectivas individuales, determinar cuál es el tema más interesante para discutir en este momento.>
La respuesta me la ofrece casi instantáneamente, se conoce que cuando la hago, el domingo al mediodía en Europa, muy temprano en América, caída la tarde en el Extremo Oriente, no es el momento de mayor uso del programa.
No quiero preguntarle a la inteligencia artificial por cada uno de los apartados que propone porque de seguir así, para qué escribir este artículo, al paso que vamos nuestra mejor aportación será saber cómo y qué preguntar, que tampoco es sencillo.
Siempre me sorprende la precisión de las definiciones del Diccionario de la Real Academia Española, preguntar es interrogar a alguien para que diga y responda lo que sabe sobre un asunto.
No sé si a la inteligencia artificial podemos preguntarle, dicho con propiedad, sencillamente porque no es alguien. Con mucha gracia me dicen que es difícil dejar de imaginar que en realidad hay alguien al otro lado, interviniendo, y no solamente un ordenador con su software y sus circuitos, me recuerda cuando mi madre me contaba que de niña ella imaginaba que en el interior de la radio había personas muy pequeñas que eran las que hablaban.
Busco un término que sea más correcto y se me ocurre que pudiera ser consultar; en su primera acepción tampoco nos sirve, porque es tratar un asunto con una o varias personas, pero en la segunda encuentro algo de luz, la definición es <buscar documentación o datos sobre algún asunto o materia>.
Así que a la inteligencia artificial le consultamos, no le preguntamos, nos facilita documentación o datos, aunque también hay que decir que nos lo entrega además ordenados, resumidos e interpretados.
De esa forma en la que la inteligencia artificial nos facilita datos se deriva una de las principales críticas que le hacemos, la de que puede incorporar sesgos que nos conduzcan a error.
Cuando escucho esto no puedo dejar de sonreír, los sesgos que incorporen los algoritmos son todo humanos, sexo, raza, religión, edad, por mencionar algunos de los que pueden resultar más evidentes, pero a diferencia de los seres humanos, la máquina es corregible y, una vez detectado y corregido, el sesgo desaparece.
No es lo que ocurre con los humanos, podemos detectar que tenemos comportamientos sesgados por ejemplo machistas, pero eso no impide que sigamos teniendo comportamientos machistas, pese a que nos esforcemos en intentar evitarlos permanentemente.
El ser humano tiene sus días, <el tedio, la fatiga, una enfermedad, situaciones o personas que le distraen, todo eso le influye y el resultado es que cuando emite juicios sobre exactamente la misma configuración de estímulos, sus juicios no son idénticos. Si pudiéramos eliminar parte de esa falta de fiabilidad inherente al ser humano eliminando de sus juicios ese error debido al azar, aumentaríamos la validez de las predicciones resultantes.>
Estos pensamientos se expresaban a finales de los años 60 en la investigación que ya se realizaba en Estados Unidos sobre la toma de decisiones de la mente humana y cómo los algoritmos podían mejorarlas. Michael Lewis los recoge en un interesantísimo libro <Deshaciendo errores> (Editorial Debate) que merece consultarse para darnos cuenta de la falta de fiabilidad de la mente humana.
Cuestión distinta es que a las inteligencias artificiales se les incorporen sesgos porque se quiera que influyan en un sentido u otro, me parecen mucho más peligrosos los sesgos voluntarios que se introduzcan buscando fines torticeros que los que se cuelen y puedan ser corregidos.
En cualquier caso, temas apasionantes. Cómo va a afectar a la medicina, sin ningún género de dudas, de inmediato mejorarán los diagnósticos, cómo a la justicia que está cargada como pocas actividades del efecto pernicioso de que tenemos o no nuestro día, en la formación, en las evaluaciones, en la selección de personal, y los etcéteras nunca acabarán.
ChatGPT no se menciona a sí misma como tema interesante de conversación, quizás porque maneja información anterior a sí misma, pero es el tema que nos está captando a todos. Ante el poder inmenso que se nos muestra ya han empezado las voces que conminan a poner puertas al campo, la prohibición. Sin ningún género de dudas hay que establecer reglas que obliguen al uso más noble posible de un poder tan abrumador. Para eso sirve justamente el Derecho pero, como no puede ser tampoco de otra forma, el Derecho va por detrás de la realidad que debe regular, en este caso tecnológica. Resulta verdaderamente urgente que el Derecho entre en todos los debates apasionantes que tenemos abiertos.
Eso sí, otro día podemos hablar de la Justicia, no debíamos dejar de hacerlo, es un escándalo su situación.
Puede ver aquí anteriores artículos de Manuel Camas
