Datos, ética y computadores
La historia de los datos y la computación es una historia indivisible. Mucho antes que los PC Gamers con RTX-380 tuvieran discos sólidos para almacenar enormes cantidades de planillas Excel y PDFs con recibos de compras online como resultado de la pandemia, hubo una época donde los computadores tenían voz humana y comprendían a la perfección las instrucciones entregadas en voz alta, o escritas a mano alzada. Esperable dentro de todo, durante la era victoriana, esos computadores y computadoras eran humanos, y se les podía contratar por hora, venían con su librito de logaritmos y con una libreta para anotar sus cálculos. [REFERENCIA: Sidney Padua, footnotes]
Los datos del usuario quedaban en propiedad del usuario, y los computadores volvían a sus casas luego de un agotador día de estar haciendo o verificando cálculos. Con suerte no lanzaban sus libretitas al fogón (a modo de garbage-collection[C++ Garbage Collection]. Los datos estaban seguros, el (escaso) dinero en los bolsillos de los computadores, y todos felices (?).
¿Podían quedar cagadas? ¡Seguro que sí!
Pero eran sólo por error humano (de los computadores), y en general afectaban solo al primer proyecto que se hiciera con esos datos. (porque cuando la cagas con números, uno en general se da cuenta).
Así vivimos mucho tiempo sin demasiado drama (haciendo vista gorda a la irrupción de la revolución industrial, la resistencia Ludita por parte de los computadores, el mal ojo de la reina Victoria al cortarle el financiamiento a Ada Lovelace y Charles Babbage), el advenimiento de la computación programable, los aportes de Alan Turing, la democratización de la programación gracias a Grace Hopper, hasta que rápidamente llegamos a la época de las PC, donde la gente podía hacer cálculos a punta de golpear teclas frente a una pantalla, para que luego alguien con mejor sueldo y menos conocimiento tomara decisiones a partir de esos datos.
Hasta aquí los pobres datos no han hecho nada malo, de hecho los tratan muy mal. Entre que no los guardan y que les definen estándares miopes (a ti te estamos mirando, ASCII), almacenarlos es caro, y todo un desafío a la hora de analizarlos.
<Estructura propuesta>
<
•
Ejemplos históricos de cagazos de mal manejo de datos
•
La linda época en que los sistemas fallaban, y se podía arreglar el software. Ya no más. Existe software perfecto, que toma pésimas decisiones
Ustedes son muy jóvenes para recordarlo, pero hubo una época maravillosa en que los sistemas fallaban por estar mal programados. ¿maravillosa? Sí, maravillosa porque era una época donde si algo estaba mal, era posible revisar el código, intentar variantes, darle con un martillo, o partir desde cero para reparar el sistema.
•
Los datos ahora son más sensibles, porque ahora es muy fácil cagarla sin querer queriendo
◦
Sistemas predictivos
◦
Sistemas prescriptivos
•
Ética computacional
◦
Cyberethics vs computer ethics vs roboethics
◦
ejemplos, y ojalá algo interactivo que la gente pueda usar en el browser
•
Sesgo heredado de humanos a máquinas
◦
entrenando la discriminación
•
Sesgo heredado de máquinas a humanos
◦
datos que hayan causado estragos, o malas decisiones, discriminación, etc.
•
El mercado de los datos
◦
¿Qué se compra cuando se compra?
◦
Datos vendidos al mejor postor
•
¿Qué hacer?
◦
Los 10 mandamientos de Cyberethics (con énfasis en el 9)
◦
Usar una interpretación ámplia del derecho a la privacidad u otros derechos
◦
Cuestionarse los posibles sesgos.
◦
Usar el role-playing de saboteador para evaluar ante la duda
>
Fuentes interesantes:
Referencias
1.