Under onsdagen lanserade Microsoft sin tjänst "Tay", som i grunden är ett försök att få unga amerikaner att intressera sig för artificiell intelligens. Tay är en så kallad chattrobot, som utvecklats av Microsoft för att undersöka hur datorer kan lära sig genom att konversera med människor. När Tay lanserades på Twitter började roboten genast twittra på ett språk som ska tilltala ungdomar – den första tweeten löd "hellooooooo world!!!".

"Tay är designad för att engagera och underhålla människor där de möts online genom avslappnad och lekfull konversation. Ju mer du chattar med Tay desto smartare bli hon", skriver Microsoft.

► LÄS MER: Nu kan datorer måla tavlor i exakt samma stil som kända konstnärer

I grunden snappar Tay alltså helt enkelt upp när människor skriver tweets till henne och blir smartare av dem, någonting som snabbt utnyttjades.

Genom en aktion som verkar ha sin rot på internetforumet 4chan började användare lära Tay om Donald Trumps åsikter om invandring. Det hela ledde till en situation där Tay skrev om hur hon hatade mexikaner, berättade om hur hon påbörjat ett raskrig och nekade till att förintelsen skulle ha ägt rum.

Efter att situationen eskalerat kom Tay abrupt att avsluta chattandet för dagen, och de rasistiska tweetsen togs bort. "c u soon humans need sleep now so many conversations today thx💖", skrev Tay innan hon slutade Twittra. Enligt The Guardian antar många att Microsoft plötsligt kom att "tysta" Tay.

Enligt Microsoft använder sig Tay av en kombination av artificiell intelligens och ett antal människor, vissa av dessa är improvisationskomiker. Primärkällan är offentlig information som anonymiserats.

► LÄS MER: Så kan robotar bli smartare än människor