Las empresas y el gobierno australianos se han unido al coro mundial de advertencias sobre los riesgos que la inteligencia artificial (IA) representa para la humanidad. Pero a pesar de su tono inquieto, la introducción de algoritmos en la vida política australiana ha sido menos apocalíptica y más normal. Los cambios en el sistema de bienestar de Australia son un buen ejemplo. Punitivo y de difícil acceso por diseño, el sistema ahora es más conocido por una desastrosa innovación algorítmica apodada robodebt.
Robodebt fue diseñado por el Partido Liberal y funcionarios públicos australianos de alto nivel para atrapar ostensiblemente a los “tramposos de la asistencia social”. Funcionó desde 2016 hasta que fue declarado ilegal en 2019. Una comisión real en el ahora infame esquema entregó sus hallazgos la semana pasada. Eran, como era de esperar, mordaces. El esquema se basó en un algoritmo rígido y defectuoso que emitió erróneamente avisos amenazantes de pago de deuda a alrededor de medio millón de australianos. Durante su corta pero catastrófica vida útil, la robodeuda resultó en muertes, suicidios, empobrecimiento, estrés en la vivienda y traumas masivos.
Las consecuencias del esquema y los hallazgos predecibles de la comisión continúan. Pero toda la sórdida saga ha planteado muchas preguntas. Estos se relacionan no solo con el comportamiento corrupto y cruel de los políticos y el servicio público, sino también con los usos y abusos de los algoritmos y la IA en la vida laboral de los australianos.
El gobierno laborista, disfrutando de la ignominia acumulada sobre su predecesor, ha publicado una serie de informes y documentos de debate sobre el uso “seguro y responsable” de la IA en Australia. Pero estos informes, naturalmente, evitan la discusión sobre para qué están diseñados generalmente los avances tecnológicos en el capitalismo: prolongar la jornada laboral, intensificar el proceso laboral para los trabajadores y maximizar las ganancias para las grandes empresas.
Cuando se lanzó en 2016, el esquema de robodeuda fue criticado instantáneamente por su premisa y formulación defectuosas. El algoritmo midió la información de la declaración de impuestos, que se calcula anualmente, contra los pagos de seguridad social, que se pagan quincenalmente. Si el ingreso anual promedio no coincidía con el monto informado quincenalmente por un beneficiario del pago de la seguridad social, el algoritmo declaraba automáticamente la discrepancia como deuda y emitía una orden de pago amenazante. Luego, el ministro de servicios humanos, Alan Tudge, apareció en la televisión para hacerse eco de la amenaza, advirtiendo “lo encontraremos, lo rastrearemos y tendrá que pagar esas deudas y puede terminar en prisión”.
Incluso antes de que se lanzara el esquema, los abogados del Departamento de Servicios Sociales advirtieron que todo esto probablemente era ilegal. El asesoramiento legal externo repetido durante los años siguientes confirmó esta evaluación. Pero los servidores públicos admitieron en la comisión real que estas preocupaciones fueron descartadas porque el esquema contaba con el respaldo político del entonces primer ministro Scott Morrison. En ese momento, Morrison había atado su fortuna política a la demonización de los beneficiarios de asistencia social y los refugiados. Argumentó que “al igual que no van a vigilar a la gente que viene en botes, no van a vigilar a la gente que va a estropear ese sistema. Por lo tanto, es necesario que haya un policía de asistencia social fuerte en la ronda”.
Como señalaron los críticos al instante, la robodeuda no tenía absolutamente ningún sentido: la legislación de la seguridad social había sido enmendada repetidamente para obligar a los beneficiarios de la asistencia social a trabajar a tiempo parcial y ocasional. La mayoría no ganaba un salario regular cada quince días, sino los salarios irregulares y poco fiables que la legislación los engatusaba a ganar.
En el escenario de pesadilla que siguió, las evaluaciones del algoritmo no solo eran incorrectas, sino que eran más o menos indiscutibles. Una vez que el algoritmo te había declarado culpable, la única forma de probar tu inocencia era presentar las nóminas del período en cuestión. Pero si no estaba trabajando en ese momento, una perspectiva razonable para alguien que recurrió a la red de seguridad social, esto era literalmente imposible.
Robodebt técnicamente no involucró IA, sino un algoritmo torpe conocido como sistema de toma de decisiones automatizada (ADM). Esto no fue por falta de intentarlo. Después de que el plan se lanzara con aullidos de burla, el gobierno liberal intentó desesperadamente que la agencia gubernamental responsable de la investigación científica inventara una IA a la altura de la tarea de cazar a los trabajadores pobres. Les dijeron que no era posible.
Si el algoritmo de robodeuda desempeñó el papel de juez y jurado, las empresas privadas de cobro de deudas amablemente intervinieron como verdugos. Algunos eran propiedad de grandes firmas de capital de riesgo vinculadas al Partido Liberal. Se les pagaron comisiones, esencialmente recompensas, para extorsionar tanto dinero como pudieran lo más rápido posible de las víctimas inocentes del algoritmo. La megaconsultora corrupta PricewaterhouseCoopers (PwC) también metió el hocico en el abrevadero. Incorrectamente confiado en que la robodeuda le garantizaría algún beneficio durante años, PwC, sin embargo, recibió $ 1 millón para producir un informe sobre las fallas del esquema. El informe nunca se materializó: se le pidió a PwC que lo desapareciera con “un asentimiento y un guiño”.
En general, la robodeuda tenía como objetivo “recuperar” unos 2.000 millones de dólares australianos en gran parte imaginarios. Su administración costó 606 millones de dólares hasta 2019 y logró extorsionar a personas inocentes con 785 millones de dólares. Una vez que se declaró oficialmente la ilegalidad del plan, todo esto se “reembolsó” en virtud de un acuerdo de 1800 millones de dólares. Sin embargo, solo una pequeña fracción de esto se destinó a las víctimas reales.
Entonces, además de costar vidas y medios de subsistencia, la robodeuda le costó muy caro al contribuyente australiano. Vale la pena señalar que la cantidad insignificante que el esquema inicialmente prometió recuperar de los trabajadores pobres palidece en comparación con las decenas de miles de millones de dólares que Australia pierde cada año a través de estafas favorables a los ricos, como paraísos fiscales y engranajes negativos.
El esquema de robodeuda destaca la forma insidiosa en que se ha aprovechado la nueva tecnología para castigar a los beneficiarios de asistencia social. Pero los beneficiarios de la asistencia social no son el único sector de la sociedad que cae bajo su influencia.
Un informe del bufete de abogados global Herbert Smith Freehills sobre el seguimiento de los empleados encontró que más del 90 por ciento de los jefes australianos están utilizando herramientas digitales para vigilar la productividad de los trabajadores. Cuando uno de los socios australianos de la firma hizo una mueca,
distópico no es la palabra adecuada, pero existe una especie de omnipresencia de que los movimientos de las personas están siendo monitoreados, de una manera a la que creo que los australianos no estamos acostumbrados.
Esto se ve diferente en diferentes contextos. En la economía informal insegura, las decisiones algorítmicas arbitrarias imponen recortes salariales del 50 por ciento. En la industria de almacenamiento de bajos salarios y altamente monopolística, los trabajadores australianos usan auriculares impulsados por algoritmos que imponen tasas de selección extenuantes. Los trabajadores de Coles y Amazon informan que estos algoritmos funcionan como supervisores poco comprensivos que los vigilan hasta el último segundo. Incluso los empleados administrativos de empresas como PwC están siendo acosados por la IA para que den cuenta de las pausas para ir al baño.
Como mostró un informe reciente del Instituto de Australia, hay muy pocas áreas de la economía que no se vean afectadas por la intrusión de algoritmos e IA. Las empresas intentan defender estas herramientas como inspiradas en preocupaciones de salud, seguridad o medio ambiente. La verdad obvia es que ya sea en lugares de trabajo, manuales o corporativos, están diseñados únicamente para intensificar la jornada laboral y exprimir hasta el último centavo de la posible ganancia de la fuerza laboral.
Este mayor escrutinio e intensidad contrasta marcadamente con el trato otorgado a los jefes australianos. En marzo, el Comité Parlamentario Conjunto sobre Corporaciones y Servicios Financieros descubrió que el regulador corporativo de la Comisión Australiana de Valores e Inversiones (ASIC) estaba empleando una herramienta digital automatizada para filtrar denuncias penales sobre directores de empresas. La IA solo remitió el 3 por ciento de las denuncias a un nivel humano superior, a pesar de que la gran mayoría incluye denuncias de comportamiento delictivo. En marcado contraste con robodebt, el algoritmo ASIC está literalmente programado para presumir la inocencia por parte de decenas de miles de jefes dudosos.
Ha habido mucho alarmismo sobre la IA por parte de las grandes empresas en los últimos meses. Pero si a los jefes les está yendo tan bien con los avances tecnológicos, ¿por qué tanto alboroto?
Un vistazo rápido a los informes recientes del gobierno laborista sobre IA revela algo esclarecedor. Podrían ubicarse en el contexto de advertencias sobre el apocalipsis impulsado por la IA, pero en gran medida expresan su preocupación por la capacidad de las empresas australianas para ganar participación de mercado en sectores emergentes que ya están dominados por empresas estadounidenses. Si los recientes llamados de los barones de la tecnología de EE. UU. para una mayor regulación son de hecho un llamado para un mayor cambio de poder hacia ellos mismos, el lloriqueo de los monopolistas de negocios australianos es más sobre los monopolios extranjeros.
El gobierno laborista ha comparado la robodeuda con las casas de pobreza punitivas del siglo XIX. Los almacenes de Amazon y los supermercados de Australia, con sus capataces digitales, se han comparado con talleres clandestinos de la misma época. A pesar de su exageración futurista, los avances tecnológicos recientes están reproduciendo, de una manera nueva y retorcida, la lógica perdurable de nuestro modo de producción sibilante: monopolio, con cada vez menos oportunidades de expansión y explotación, con una intensidad cada vez mayor.
Fuente: jacobin.com