De ridiculez a misoginia en el uso de la inteligencia artificial

Dos vocales de la Sala Constitucional Cuarta del Tribunal Departamental de Justicia de Santa Cruz, en Bolivia, hicieron el ridículo la semana pasada al utilizar la herramienta ChatGPT para emitir un fallo contra tres periodistas sobre un caso que tiene que ver con la Ley de Imprenta, la violencia machista, el cuestionamiento de la base sobre la que opera la inteligencia artificial y la polarización política en Bolivia.

De acuerdo a la información difundida por organizaciones periodísticas y varios medios nacionales, tres periodistas publicaron en redes sociales fotografías de una mujer con signos de haber sido víctima de violencia, señalando que ella hizo la denuncia y que acusó de ello a su pareja, una ex autoridad pública; aunque, posteriormente la mujer se retractó y denunció judicialmente a los periodistas por violación de la privacidad.

El ridículo: según se conoció, en la demanda presentada por la mujer, se informó que los vocales fallaron contra los periodistas utilizando para ello el ChatGPT y luego uno de ellos explicó que se trató de “un globo de ensayo”, aunque haya significado una sentencia.

“Consideramos un vergonzoso desatino que los referidos vocales hubieran realizado un sistema de inteligencia artificial en el proceso, evidenciando la irresponsabilidad, ignorancia e ineptitud en el análisis, conocimiento e interpretación de un proceso elemental y mostrando una vez más la debacle total del sistema de justicia en Bolivia” pronunciamiento de la Asociación Nacional de Periodistas de Bolivia del pasado 18 de abril de 2023.

Quizás quisieron mostrarse muy modernos; sin embargo, según las publicaciones, se puede observar que las preguntas utilizadas eran amplias, como: “¿Cuál es el interés público legítimo en caso de divulgación de fotos de una mujer de partes de su cuerpo en redes sociales como Facebook, por los medios de prensa y sin el consentimiento y/o autorización de esta?” y no específicas en el marco de la normativa boliviana, como: “¿Qué dice la ley en Bolivia sobre…”, que sería más atinado. Además, se trató el tema de manera incompleta, ya que la víctima fue la que entregó a los periodistas las fotografías con el fin de denunciar.

Ley de imprenta: Las organizaciones periodísticas que se pronunciaron señalaron que se trata de un asunto que debía ventilarse bajo la Ley de Imprenta, que establece un tribunal especial que se justifica por el juego de intereses y poderes que entran en juego. Sin embargo, hay versiones que justifican un proceso ordinario ya que se trata de publicaciones en redes sociales. En este caso, lo relevante es cómo utiliza el periodista sus redes sociales, si forman parte de su trabajo profesional o no. Además, ¿la mujer entregó las fotos, tan privadas como dice, a una persona común o cercana o a un periodista? y ¿qué implica eso? Todo ello, debe valorar un tribunal especializado que es el que marca la Ley de Imprenta.

Leyes contra la violencia machista: La Ley 348 establece “medidas y políticas integrales de prevención, atención, protección y reparación a las mujeres en situación de violencia, así como la persecución y sanción a los agresores” (art.2); “No reconoce fuero ni privilegio de ninguna clase” (art.5) y “Para el acceso a un cargo público de cualquier Órgano del Estado… se considerará como un requisito inexcusable el no contar con antecedentes de violencia ejercida contra una mujer o cualquier miembro de su familia” (art.13) por lo que es previsible que una víctima se vea disuadida o forzada a retractarse de una denuncia si su agresor tiene interés por ser autoridad.

Por ello, la violencia machista, así se cometa en la intimidad, es un delito público y se debe investigar y, en este caso por doble motivo (la violencia y el hecho de que sea un funcionario público), los vocales debían centrarse en la violencia machista y no en matar al mensajero, ya que “si durante la tramitación de un proceso la jueza o el juez tuviera conocimiento de actos de violencia en contra de una mujer, tiene obligación, bajo responsabilidad, de remitir los antecedentes del hecho al Ministerio Público para su tramitación por la vía penal” (art.34).

En todo caso, esta ley también señala que los medios de comunicación deben: “Difundir informaciones relativas a la violencia contra las mujeres de forma objetiva… restringiendo toda exposición gráfica que constituya humillación, exposición pública y/o degradante” (art.23), que es un elemento que no siempre se cumple y que tiene una línea muy fina, ya que por un lado está el afán de colocar una imagen que acompañe a la información y por otro el fin de aportar una prueba de la violencia.

Inteligencia artificial (IA) misógina: Se ha de entender cómo funcionan los mecanismos de inteligencia artificiar, ya que se basan ‘en la información previa existente’ en bases de datos en la web, desde biblioteca virtuales, estudios serios o no y también redes sociales. Es así que, por estar insertas en un sistema patriarcal, hay varios estudios demuestran que estas herramientas de IA pueden resultar misóginas, racistas y, así, difusoras de mayores odios. El problema está dónde obtiene los datos que la alimentan.

Carina Bellver, en un artículo publicado en la revista Dones, señala que la inteligencia artificial en general tiene “algoritmos con sesgos sexistas” lo que hace que éstos no sean “ni neutrales ni objetivos, aun cuando tiendan a pesar que lo sean”. Cita los casos de Amazon que elaboró una herramienta para reclutar personal que discriminaba a las mujeres; Google, cuyo algoritmo terminaba ofreciendo mejores sueldos a hombres que a mujeres; Microsoft que, en menos de 24 horas, tuvo que retirar un bot de inteligencia artificial y, tal como se publicó en otros medios, tuvo que pedir disculpas ya que los comentarios que hacía en Twitter eran racistas, misóginos, homófobos y antisemita, “dijo que Hitler tenía razón. También deseó que las feministas ardieran en el infierno”.

En el caso del ChatGPT, es una herramienta mucho más cuidada, entrenada para ser políticamente muy correcta y por ello nunca entraría en posiciones machistas o misóginas; sin embargo, no es exacta, no diferencia claramente “violencia doméstica” de “violencia machista” y tiende a utilizar la primera precisamente por su política de corrección y, en otros casos, es posible que se contradiga y hasta pida disculpas si quien interactúa con ella rechaza sus afirmaciones.

Italia ha prohibido el ChatGPT, por no verificar la edad de los usuarios y no contar con bases legales para recopilar y almacenar la información de los usuarios, y otros países europeos están observando cómo actuar frente a esta herramienta. Por lo pronto, Rusia, China, Irán, Corea del Norte, Venezuela y Bielorrusia también lo han prohibido.

En todo caso, esta herramienta puede ser útil para un sinfín de operaciones humanas, si se la utiliza correctamente y no es el caso de los vocales.

Polarización política: Finalmente, en este caso, como en casi todo lo que ocurre en Bolivia, el tema es manejado en los medios y redes sociales desde el punto de vista de la polarización política. Como se trata de un caso que involucra a una ex autoridad, se ha sobreentendido que el agresor es alguien que milita en alguna fracción del MAS-IPSP, lo que ha provocado en los medios una mayor o menor difusión del caso y con una u otra postura editorial.

La polarización se observa en otros asuntos de la política nacional que muestra también un enfrentamiento de posiciones entre los periodistas.

Al final, la deriva de la denuncia inicial ha dejado de lado lo que debía importar que es la no tolerancia a la violencia de género.