Carrito
Subtotal: $0
Noticia_AI

Rápido y curioso:

Minority Urtubey

TXT:

IMG: 20th CENTURY FOX  

Expertos desarrollan un algoritmo para minimizar la capacidad de los políticos de decir cualquier cosa. Consiste básicamente en preguntarle a los expertos antes de decir cualquier cosa.

Anoche llegué a casa, al sofá, a ponerme al día con el debate sobre el aborto (dato de color que nada tiene que ver con esto: Noelia Barral Grigera está desde el Congreso haciendo una cobertura impresionante), cuando encontré lo que en ese momento pensé era una joya aislada de la política y los medios para entender, después, que quizás era más bien una muestra tristemente representativa de la relación (o falta de ella) que nos acostumbramos a ver entre política, ciencia y tecnología.

 

 

Inmediatamente, además de gritarMinority Urtubey, me pregunté si lo que planteaba el gobernador era técnicamente posible. El primer indicio lo dio el asomo de especialistas del área, en Twitter mismo, mostrándose muy cautos respecto de estos resultados, lo que me hizo profundizar el escepticismo.

 

Ciencia, tecnología, futuro, innovación, vehículos autocomandados, chicas que se mueren por un aborto clandestino

Pasaron apenas minutos para que ocurriera el primer mensaje de Whatsapp de mi teléfono, en un grupo compartido con otros entusiastas de hacer cosas con datos, y un ‘esos resultados son, por lo menos, espurios’.

Los mensajes empezaron a apilarse. Eran cada vez más, de personas distintas, y la pregunta se reiteraba: ¿El Gato va a decir algo sobre esto? A lo que respondimos vamos a hacer lo que hacemos todas las noches, Pinky, tratar de compartir y contextualizar la situación al máximo de nuestras capacidades, aprovechando la información de expertos’.

Esa información llegó inmediatamente después, de la mano del Laboratorio de Inteligencia Artificial Aplicada (LIAA) de la UBA, con un comunicado que está completo a disposición acá, pero del que vamos a compartir algunos pedacitos.

Primero, el contexto: en un evento de Microsoft Argentina, Urtubey ya había mencionado esto:

“Los ejemplos que hacían referencia en el caso de la prevención de embarazo adolescente y el tema de la deserción escolar son ejemplos clarísimos respecto de eso. Nosotros tenemos claramente definidos, con nombre y apellido, 397 casos de chicos que sabemos, de un universo de 3000, que inexorablemente caen en deserción escolar. Tenemos 490 y pico, casi 500 casos de chicas que, sabemos, tenemos que ir a buscarlas hoy.”

No mucho más tarde empezó a circular un tuit de un empleado de Microsoft que compartía un documento de diciembre de 2017 donde especificaba el desarrollo de un proyecto de esas características. En palabras del LIAA “Tras estudiar con cuidado la metodología detallada en ese documento, encontramos serios errores técnicos y conceptuales​, que ponen en duda los resultados reportados por el gobernador Urtubey, y que comprometen el empleo de la herramienta generada en una cuestión tan sensible como el embarazo adolescente”.

Los resultados parecen estar ‘artificialmente sobredimensionados’, ‘sesgadose inclusive ser ‘inadecuados’ (en los tres se explayan los autores del documento), pero lo más interesante es que comparten esto de una manera que excede la comunicación sobre el caso particular, tomando un rol muy activo de comunicación sobre el fondo de la cuestión, y con un enfoque paratantagentecomoseaposible:

“Los datos utilizados fueron extraídos de una encuesta a adolescentes residentes en la provincia de Salta conteniendo información personal (edad, etnia, país de origen, etc.), sobre su entorno (cantidad de personas con quien vive, si tiene agua caliente en el baño, etc.) y sobre si había cursado o estaba cursando, al momento de la encuesta, un embarazo. Estos datos no son adecuados para responder a la pregunta planteada: si una adolescente tendrá un embarazo en el futuro (por ejemplo, dentro de 5 ó 6 años). Para eso, sería necesario contar con datos recolectados 5 ó 6 años antes ​de que suceda el embarazo. Con los datos del presente, en el mejor de los casos, el sistema podría determinar si una adolescente ha tenido, o tiene ahora,​ un embarazo.

Aunque lo más interesante es el final (énfasis nuestro):

Tanto los problemas metodológicos como los datos poco confiables plantean el riesgo de llevar a tomar medidas incorrectas a los responsables de políticas públicas. Este caso es un ejemplo de los peligros de utilizar los resultados de una computadora como una verdad revelada. Las técnicas de inteligencia artificial son poderosas y demandan responsabilidad por parte de quienes las emplean. En campos interdisciplinarios como éste, no debe perderse de vista que son sólo una herramienta más, que debe complementarse con otras, y de ningún modo reemplazan el conocimiento o la inteligencia de un experto, especialmente en campos que tienen injerencia directa en temas de salud pública y de sectores vulnerables.“

Dejando de lado lo pintoresca que pueda resultar la propuesta de aplicar inteligencia artificial una maravilla de nuestros tiempos para sostener una postura del siglo XIX y evitar así cualquier discusión que admita la necesidad de pensar en cosas como el derecho de las mujeres de decidir sobre su propio cuerpo, o sobre una educación sexual plena que desambigüe la relación unívoca entre sexo y reproducción, las declaraciones de Urtubey tuvieron al menos una consecuencia positiva: dejaron ver una vez más que no parecen estar claras las capacidades que las distintas herramientas de ciencia de datos poseen al ser aplicadas. Su aplicación en cada vez más campos nos muestra la necesidad de recordar que el dato sólo no es nada; es el dato, la construcción del análisis y la interpretación del dato, pero también es el uso que se le dé, tanto en términos de comunicación como en el desarrollo de políticas públicas, así como la auditabilidad y transparencia, y el establecimiento de mecanismos de control ciudadano sobre el uso que el Estado les dé a esos datos y herramientas.

En puertas de una presencia cada vez más fuerte de estas tecnologías, no caigamos en que arrojarles tecnología a las cosas mágicamente las soluciona, no caigamos en ‘Los pibes no aprenden. Démosles tablets, así no aprenden, pero con tablets’, porque acá se traduce en mujeres que siguen muriendo por abortos clandestinos, pero con machine learning.

Pero que no todo sean malas noticias. Que el Minority Urtubey Gate no se extinga sin haber usado este pedacito de atención para mostrarnos las enormes capacidades de transformar nuestras sociedades que tiene el uso de datos y algoritmos. Tantas que, como ciudadanos, necesitamos estar informados sobre ellas para poder elegir qué hacer con semejantes herramientas. Afortunadamente, tenemos una comunidad de expertos comprometida no sólo con que esas herramientas sean comprensibles y accesibles para más gente, sino que entiende y explicita la necesidad de tomar este desafío desde una perspectiva interdisciplinaria y orientada hacia mejorar las vidas de las personas.

Hay 16 comentarios

Añadir más
  1. Romina

    Cosas que me hicieron ruido cuando lo escuche a Urtubey:
    1. Si la base de la herramienta es la recolección de datos sociodemográficos y la correlación entre ellos, con los datos del Censo poblacional (que ya se tienen) no se puede hacer? O al menos mejorar la herramienta de recolección de datos del Censo nacional…
    2. Si a partir de variables sociodemográficas detectas la proporción de la sociedad que tiene tendencia a un embarazo adolescente, no estas estigmatizando (más) a los pobres?;
    3. Y la política pública de prevención posterior cual seria? De cumplir con la Ley de Educación Sexual Integral ni hablemos?;
    4. Las ricas no abortarían según esta herramienta?

    Muy buena la radio, saludos a mi tía Marita

    • Manuel

      1. Sí y no. Urtubey habla de “nombre y apellido”, cosa que no existe en un censo ya que vulneraría el principio de anonimato de cualquier censo. Que existen sectores de mayor riesgo ya se sabe desde que existe la estadística, pero le agregás “Inteligencia Artificial” a la frase y todo suena re posmoderno…
      2. Eso se llaman factores de riesgo y factores de protección, y son una realidad estadística: la fecundidad adolescente es más alta entre mujeres pobres. Pero para nada la pobreza DETERMINA el embarazo; en ese sentido, los dichos de Urtubey sí que estigmatizan.
      3. Salta es una de las provincias que menos cumple la ley de ESI, se dan clases de catequesis (o daban, hay que ver qué pasa después del fallo de la Corte Suprema) en escuelas públicas y otras serias vulneraciones a los derechos sexuales y reproductivos de los y las jóvenes.
      4. En parte (el EN PARTE es importante) es probable que la fecundidad adolescente sea más alta porque las adolescentes de clase media acceden a abortos seguros. Hay investigaciones que sugieren que en el caso de adolescentes de clase media el primer embarazo se interrumpe, mientras que en sectores populares el aborto es más común en segundos embarazos.

  2. Ignacio

    Muy buena nota Pablo! Te felicito! Quería comentarte que en una materia de la carrera de Lic. En Cs. De la Computación de la UBA se introduce este tema en un trabajo práctico. El error de sobredimension de los datos es uno de los tantos que los profesores le advierten a sus alumnos en la clase de introducción al trabajo.
    Habría que recomendarle que curse esa materia así aprende un poco antes de ponerse a trabajar en el área de IA.

        • Pablo A. González

          Hola, José! Los revisores están en la publicación, te invito a googlerlos pero te adelanto: Facu Carrillo es computador, fue becado de FB y Google por su laburo en machine learning. Valen muro es filosofo (casi) y experto en teconlogía y nuestra relación con ella. Te recomiendo leas a ambos. Saludos!

          • José Gareca

            Confundí a Carrillo con un homónimo que hay en el GCBA que es Lic. En Relac. Internacionales. Por eso la pregunta sobre los revisores. Saludos

  3. Roberto Alsina

    Mas que nada el problema es que para hacer esto “bien” lo que necesitás es un estudio longitudinal, por ejemplo:

    2005 a 2018: tomas data de todas las chicas de 10 a 19 años

    Usando la data de 2005, modelás embarazos adolescentes / deserción escolar en 2008-2018.
    Usando 2005 y 2006 lo mismo

    Y así sucesivamente, hasta que modeles realmente cosas a futuro.

    Y dentro de lo posible, no tenes un solo set de datos, tenés varios, para poder tener una mínima validación.

    La idea misma de que con data únicamente de 2017 vas a poder predecir lo que va a pasar en 2022 es ridícula.

  4. Laura u.

    Lo que me hace ruido de este tema es que, aún suponiendo que la idea funciona y se detectan las mujeres que tienen altas posibilidades de embarazo no deseado en el futuro, después qué sigue?
    El problema real no es la detección, sino la prevención, y no parece que este sistema brinde una solución sobre eso.

    • Marcos

      Si ciertos rasgos se correlacionarían con una orientación sociosexual promiscua, si los psicópatas subclínicos son más propensos a involucrarse en conductas sexuales de riesgo, si el maquiavelismo se asocia con promiscuidad, con actitudes sexuales hostiles, con la inducción a la intoxicación para obtener sexo, despues que sigue, cuales serian las soluciones?

  5. ANDREW

    Avísenle a este muchacho Urtubey que si jugas a la ruleta rusa desde hoy en adelante contando entre uno a seis gatillazos tenes un alto riesgo de quedar abortado. Pero si usas balas de salva podes jugar todas las veces que quieras. Aunque depende de que en cavidad te apoyes el arma tenes un menor o mayor grado de aborto instantáneo. Sino quiere autoabortarse que le pregunté al clero con que cavidad es más seguro jugar para no abortar.

  6. Marcos

    Mas allá de la inteligencia artificial, de datos y algoritmos que descubran solos las relaciones que hay entre esos datos, mi pregunta es que nos pueden decir las investigaciones de biólogos, sociólogos y sociobiologos?

    No quiero citar a Richard Dawkins, ni a la bases biológicas de nuestra conducta, porque me van a echar del foro, pero, por ejemplo, hablando de los perfiles de personalidad que se han denominado como la “Dark Triad of personality”, tríada Oscura de la personalidad; que son el maquiavelismo, el narcisismo y la psicopatía.

    Se hipotetizó que estos rasgos oscuros correlacionarían con una orientación sociosexual promiscua.

    Los psicópatas subclínicos no sólo son más propensos a involucrarse en conductas sexuales de riesgo, sino también más propensos a utilizar tácticas coercitivas para obtener sexo, incluyendo el uso de drogas o actos de intimidación física o verbal.

    Aunque hay mucha menos investigación que haya estudiado el maquiavelismo y las relaciones íntimas, la investigación disponible hasta la fecha indica que el maquiavelismo se asocia con promiscuidad, con actitudes sexuales hostiles, la inducción a la intoxicación para obtener y asegurarse sexo y una aprobación del uso de la fuerza sexual.

  7. Diego Tachella

    Muy bueno!
    Ahora entiendo mejor el informe del LIAA…
    También pensé en “Minority Report” al escuchar la declaración, en lugar de mutantes con precognición habría una IA que dirige a una tropa de asalto a niñas salteñas…
    Y el sesgo machista de que la responsabilidad del embarazo es de la mujer, los hombres no están en la ecuación del algoritmo, salvo para juzgar la posibilidad de interrumpir el embarazo como un crimen, me dió miedito…
    Yo confío en el GPS y sus, cada día mejores, propuestas de caminos a seguir para atravesar la ciudad en el menor tiempo posible… Pero el costo máximo del error es demorar más de lo previsto, jamás me mando a zonas de riesgos (aunque me lo diga con insistencia la gallega, si es contrabando no doblo!).
    Usar ése algoritmo de tráfico no genera una estigmatización negativa sobre un grupo vulnerable…
    Saludos!

  8. Juan I. Gonzalez

    Esto me suena más a modelos de estadística multivariante como regresión múltiple. Y lo maquilló con un poco de IA que vende

    • Pablo A. González

      Hola, José! Los revisores están en la publicación, te invito a googlerlos pero te adelanto: Facu Carrillo es computador, fue becado de FB y Google por su laburo en machine learning. Valen Muro es filosofo (casi) y experto en teconlogía y nuestra relación con ella. Te recomiendo leas a ambos. Saludos!


Publicar un nuevo comentario