Australia: rządowy algorytm doprowadzał do samobójstw

Raport komisji śledczej ujawnił, że System Robodebt, z którego korzystał australijski rząd w latach 2016-2019, przyczynił się do samobójstw. System odpowiadał za spłatę wierzytelności od osób korzystających z pomocy społecznej. Wysyłał ponaglenia, nieraz błędnie lub niejasno sformułowane, domagając się od wierzycieli spłaty nieistniejących długów. Wadliwy algorytm prosił ludzi o zapłacenie tysięcy dolarów. W praktyce pogorszył ich już i tak niełatwą sytuację finansową, pozbawiając środków do życia czy skłaniając do zaciągnięcia chwilówek. Kilka osób popełniło samobójstwo. Finalnie Sąd Federalny Australii uznał program za nielegalny w 2019 roku, a rząd musiał zwrócić ofiarom 700 milionów dolarów australijskich (około 430 milionów euro). Mimo to ówczesny premier Scott Morrison nie poczuwa się do odpowiedzialności.

To nie jedyne państwo, w którym przedłożono cyfryzację administracji na dobro obywateli - w Holandii np. rodzice z podwójnym obywatelstwem byli automatycznie oskarżani o oszustwo. Tymczasem coraz więcej krajów pracuje nad zastosowaniem algorytmów i sztucznej inteligencji w administracji publicznej.