Timnit Gebru är forskare och hon studerar Artificiell intelligens, AI. Hon studerar inte bara tekniken i sig, alla möjligheter, utan även de moraliska, etiska och juridiska problem som tekniken kan medföra. Fram till för en vecka sedan var Timnit Gebru anställd av Google. Det är hon inte längre. Hon sparkades efter krav från sökjätten att hon skulle stryka sitt namn från en akademisk rapport som hon skrivit tillsammans med andra, säger hon själv. Google säger inte mycket alls utan har valt att inte kommentera saken – trots växande protester.
En akademisk, vetenskaplig rapport, skriven tillsammans med andra inom ämnet ska ha lett fram till att hon fick sparken. Google har bara sagt i en kommentar att Timnit Gebru sa upp sig själv och har sedan inte kommenterat saken. När det blev känt att Timnit Gebru lämnat Google så lät reaktionerna inte vänta på sig. Över 200 anställda inom Google har skrivit under ett öppet brev som en protest mot att Timnit Gebru sparkats.
Microsoft
Google har även fått kritik från AI-forskare inom Microsoft och flera andra stora företag.
We stand with @timnitGebru. We call on Google Research to strengthen its commitment to research integrity and to unequivocally commit to supporting research that honors the commitments made in Google’s AI Principles. Sign the letter: https://t.co/hf91oDZ0Ew
— Google Walkout For Real Change (@GoogleWalkout) December 4, 2020
Etiska problem
Rapporten, skriven bland andra tillsammans med Emily Bender från University of Washington tar upp etiska problem med AI och speciellt etiska problem med att AI kan plocka upp och förstärka fördomar som hittas och plockas upp i texter och diskussioner ute på nätet. I botten finns teknik som ska kunna samla in, bearbeta och förstå text men frågan är då hur maskiner och mjukvara ska kunna förstå vad som är fördomar, rasism och förutfattade åsikter och vad som är moraliskt och etiskt godtagbart. Det var de frågorna som den nya aktuella rapporten tog upp och behandlade. en rapport som snabbt fick stor spridning i och utanför akademiska kretsar därför att den belyser ett problem med AI.
Pengar
Det finns enorma möjligheter med AI, med maskiner och mjukvara som lär sig saker på egen hand, som kan behandla, analysera och dra slutsatser. För företag, däribland Google finns möjligheter att plocka in betydande intäkter. AI kan vara mycket lönsamt och tekniken kan, i Googles fall, exempelvis användas för att analysera de enorma mängder data som sökjätten samlar in om oss. Googles algoritmer för att försöka ta reda på vad vi läser, vilka webbplatser vi besöker, vad vi vill ta del av, hur vi handlar och i slutändan vilken typ av reklam som intresserar oss skulle kunna förfinas ytterligare och hela affärsmodellen skulle kunna göras ännu mer pricksäker. En träffsäkrare produkt kan du sälja för ett högre pris.
I ena vågskålen finns betydande intäkter – pengar.
I den andra finns de moraliska, etiska och även juridiska problem som AI kan medföra. AI kan som sagt plocka upp ytterst tveksam information, förstärka den och basera slutsatser, analyser och algoritmer på tveksam grund. Teknik blir som bekant vad vi gör den till och utan styrning och insyn så kan även de bästa intentioner sluta illa.
Skiljelinjen
Utifrån betraktat, och detta går bara att betrakta utifrån med i huvudsak en sidas syn på saken eftersom Google valt att hålla käften, så är det här skiljelinjen tycks gå – mellan moral, etik och pengar. Nu är det en alltför grov och bred slutsats. Det är inte så enkelt som att Google är det onda företaget som bara vill tjäna pengar och det är sannolikt inte heller så enkelt som att Google inte förstår sig på akademiker och vetenskapliga rapporter. Sökjätten har massor med högt utbildade specialister anställda, akademiker, och Googles anställda producerar årligen mängder med rapporter inom ett mycket stort antal områden. Det finns dock en skillnad mellan just den här rapporten och många andra rapporter – den har snabbt fått stor spridning, uppmärksammats långt utanför den akademiska världen och den har ansetts vara en mycket viktig rapport när det handlar om en framtida teknik där våra datorer och mjukvara ska kunna hantera alltmer komplexa uppgifter.
Det är också en rapport som sätter fingret på ett moraliskt och etisk problem med tekniken. Kanske är det de slutsatserna som fått Google att kräva att Timnit Gebru skulle plocka bort sitt namn från rapporten. Det vet vi inte för Google håller som sagt käften och vill inte lämna några kommentarer.
0 kommentarer