Außerordentlicher Antrag zur endgültigen Außerbetriebsetzung des AMAS
(9.12.2020) AMSEL übermittelte am 4.12. anlässlich der Sitzung am 9.12. diesen "Außerordentlichen Antrag zur endgültigen Außerbetriebsetzung von AMAS/AMS-Algorithmus" an alle Mitglieder des AMS-Verwaltungsrats:Sehr geehrtes Mitglied des AMS-Verwaltungsrats!
Die Studie des Instituts für Technikfolgenabschätzung der Österreichischen Akademie der Wissenschaften "Der AMS-Algorithmus Eine Soziotechnische Analyse des Arbeitsmarktchancen-Assistenz-Systems (AMAS)" hat erneut verdeutlicht bzw. bestätigt, dass der Einsatz von AMAS, vulgo AMS-Algorithmus, kein probates Mittel zur Problembewältigung am Arbeitsmarkt ist.
Im Gegenteil: Diese Studie besagt, dass AMAS in seiner gegenwärtigen Form bestehende Diskriminierung(en) durch seine eingeschriebene Tendenz zur systematischen Ungleichbehandlung verfestigt.
Zusätzlich ist die Datenbasis durch die Corona-Krise größtenteils unbrauchbar geworden.
AMAS ist also mehr denn je in keiner Weise "rettbar".
Aus diesem Grund stellen wir folgenden Antrag zur Beschlussfassung:
Der Verwaltungsrat weist den Vorstand an
- alle weiteren Arbeiten an AMAS einzustellen,
- dieses und vergleichbare Projekte nicht mehr weiter zu betreiben und
- die Bescheidbeschwerde beim BVwG zum untersagenden Bescheid der Datenschutzbehörde zurückzuziehen.
Zusätzlich sei auch auf den Sperrbescheid der Datenschutzbehörde (DSB) hingewiesen, der feststellt, dass der Einsatz des Algorithmus bis auf weiteres ohne rechtliche Grundlage ist und daher zu unterbleiben hat (DSB Bescheid vom 16.8.2020, DSB-D213.1020 2020-0.513.605) siehe AMS-Algorithmus ohne Rechtsgrundlage. Zur Klarstellung auch ein paar Auszüge aus ÖAW-Studie.
Fragmente aus der Studie des Instituts für Technikfolgenabschätzung der Österreichischen Akademie der Wissenschaften
“Algorithmen können nur eine aggregierte Sicht-weise auf Gruppen errechnen,
die nicht einfach auf individuelle Personen umgelegt werden kann” (ITA-Projektbericht Nr.:2020-02: S.101).
“Die Anweisung an Betreuer*innen als menschliches „Korrektiv” zu fungieren ist angesichts der knappen Betreuungszeiten am AMS nicht ausreichend, um diese Dynamiken oder Automatismen abzufangen” (ebd., S.102).
“Internationale Studien (Dobbe et al. 2018) zeigen, dass ein biasfreies System unmöglich zu realisieren ist, da jede Modellierung eine Reduktion der komplexen Realität er-fordert” (ebd.).
"Bei einem Einsatz muss daher offengelegt werden “wie diskriminierende Effekte des Algorithmus verhindert werden, wie menschliche Aufsicht umgesetzt und wie potentiellen Risiken begegnet wird” (ebd.).
“[Es] sind bestehende Grundrechte umzusetzen und neue/adaptierte gesetzliche Grund-lagen, Gremien und Aufsichtsorgane, sowie neue Auditing-Verfahren ein-zurichten [...]” (ebd. S.103).
“Über diese konkreten gesetzlichen Rahmenbedingungen hinaus braucht es neue Gremien und Aufsichtsbehörden, die eine unabhängige Begleitung, Auditierung und Evaluierung algorithmischer Systeme und des sozio-technischen Kontexts ihres Einsatzes durchführen können (sowohl national, als auch auf EU-Ebene)” (ebd. S.104).
Projektseite ÖAW“Die Anweisung an Betreuer*innen als menschliches „Korrektiv” zu fungieren ist angesichts der knappen Betreuungszeiten am AMS nicht ausreichend, um diese Dynamiken oder Automatismen abzufangen” (ebd., S.102).
“Internationale Studien (Dobbe et al. 2018) zeigen, dass ein biasfreies System unmöglich zu realisieren ist, da jede Modellierung eine Reduktion der komplexen Realität er-fordert” (ebd.).
"Bei einem Einsatz muss daher offengelegt werden “wie diskriminierende Effekte des Algorithmus verhindert werden, wie menschliche Aufsicht umgesetzt und wie potentiellen Risiken begegnet wird” (ebd.).
“[Es] sind bestehende Grundrechte umzusetzen und neue/adaptierte gesetzliche Grund-lagen, Gremien und Aufsichtsorgane, sowie neue Auditing-Verfahren ein-zurichten [...]” (ebd. S.103).
“Über diese konkreten gesetzlichen Rahmenbedingungen hinaus braucht es neue Gremien und Aufsichtsbehörden, die eine unabhängige Begleitung, Auditierung und Evaluierung algorithmischer Systeme und des sozio-technischen Kontexts ihres Einsatzes durchführen können (sowohl national, als auch auf EU-Ebene)” (ebd. S.104).
Der AMS-Algorithmus. Eine Soziotechnische Analyse des Arbeitsmarktchancen-Assistenz-Systems (AMAS).(ITA-Projektbericht Nr.:2020-02) als PDF
Weitere Information: Resolution zur Abschaffung des AMS - Algorithmus und Was ist der Stand beim AMS-Algorithmus
