Forum Weblog Zoek Actieve Items Nieuws Columns Reviews Previews Specials Archief

Microsoft: sorry voor racistische robot

Redactie

Peter Lee, het hoofd van Microsoft Research, heeft op het officiele blog van Microsoft zijn excuses aangeboden voor de racistische berichten van chatbot Tay. "Het spijt ons heel erg voor de onbedoelde beledigende en kwetsende tweets van Tay, die absoluut niet representatief zijn voor Microsoft en het doel waarvoor we Tay hebben ontwikkeld".

De chattende robot TayTweets werd woensdag gelanceerd en was bedoeld als een experiment om kunstmatige intelligentie en gespreksbegrip te testen. Echter niet lang na de lancering begon de chatbot teksten te twitteren als: 'Hitler had gelijk ik haat Joden' en 'Hitler zou het beter doen dan de aap die we nu hebben'.

Verder schrijft Lee dat de chatbot inmiddels offline is gehaald. Het is de bedoeling dat Tay uiteindelijk wel weer terug komt. "Maar niet voordat we er zeker van zijn dat we kunnen anticiperen op het gebruik van de chatbot dat in strijd is met onze principes en waarden."

Microsoft Research gebruikt deze en andere ervaringen om te leren en te blijven werken om 'bij te kunnen dragen aan een internet dat niet het slechtste, maar het beste van de mensheid vertegenwoordigd'.

Microsoft: sorry voor racistische robot (Foto: BuzzT)

Help ons; deel dit item als je het leuk vond

Heb je een leuk of interessant bericht gevonden dat je graag op FOK! terug ziet? Tip ons dan via de submit!

Zoek jij altijd de leukste nieuwtjes en kun je daar leuk over schrijven? Meld je aan als nieuwsposter!

21 reacties

zaterdag 26 maart 2016, 02:43 uur #1

sjaannet

Maar het zegt wel iets over de gebruikers. Het zou moeten leren van wat de gebruikers intikten. Kunnen we dat ding op tilt krijgen!!

zaterdag 26 maart 2016, 03:04 uur #3

flipsen

Argentinie-specialist!

quote:
'Hitler zou het beter doen dan de aap die we nu hebben'.

Kamervragen!

Ik hou me bezig met het organiseren van reizen naar Argentinie, Chili en Peru voor Tipica Reizen.

Eindredactie Frontpage

zaterdag 26 maart 2016, 03:15 uur #4

Philosocles

blogito ergo sum

quote:
Op zaterdag 26 maart 2016 @ 02:59 schreef Noin het volgende:
Ze hadden Tay moeten laten staan.

Ik ben erg benieuwd of het na een maandje of zo het 'mening' zou veranderen.
Of ie dan echt weerwoord zou kunnen geven...

Ik verwacht ik nu veel te veel van deze bot?

Misschien. De aanname is dat Tay leert van de input die het meeste wordt aangeboden, maar het is een bekend verschijnsel dat negativiteit online doorgaans gemakkelijker een uitlaatklep vindt dan positiviteit.

Maar hier is natuurlijk ook sprake van baldadigheid in het kijken hoe ver die bot te pushen was. En dat is overigens volslagen terechte baldadigheid, want de doelstelling was gespreksbegrip te testen. Dat er hier meer sprake is van na-aperij dan van gespreksbegrip wordt zo natuurlijk mooi en pijnlijk duidelijk. De vraag is wel hoe fair het is dat de bot amper de tijd kreeg dit 'begrip' aan te tonen.

Vermoedelijk zal Microsoft tegen de Trumpiaanse stroom in gaan roeien en een 'policor'-module toevoegen.

Dat is op zichzelf natuurlijk weer een interessante studie, maar het moet goed te doen zijn. Het 'policor'-gehalte van een uitspraak als "Hitler had gelijk ik haat Joden" is vermoedelijk niet heel erg moeilijk te meten.

[ Bericht gewijzigd door Philosocles op zaterdag 26 maart 2016 @ 03:28 ]

iedereen is uniek behalve ik

zaterdag 26 maart 2016, 03:23 uur #5

#ANONIEM

quote:
Op zaterdag 26 maart 2016 @ 02:59 schreef Noin het volgende:
Ze hadden Tay moeten laten staan.

Ik ben erg benieuwd of het na een maandje of zo het 'mening' zou veranderen.
Of ie dan echt weerwoord zou kunnen geven...

Ik verwacht ik nu veel te veel van deze bot?

inderdaad maar dan als experiment gewoon zien wat er gebeurd. Lijkt me wel gaaf om te zien hoe het er na 1 jaar er voor zou staan.

zaterdag 26 maart 2016, 03:44 uur #6

Joran-Joran

Denkt er het zijne van

quote:
Op zaterdag 26 maart 2016 @ 03:23 schreef totalvamp het volgende:

[..]

inderdaad maar dan als experiment gewoon zien wat er gebeurd. Lijkt me wel gaaf om te zien hoe het er na 1 jaar er voor zou staan.

Interessant inderdaad maar daar wil dan natuurlijk geen enkel bedrijf zijn naam aan durven te verbinden

zaterdag 26 maart 2016, 05:34 uur #7

Captain_Ghost

quote:
Op zaterdag 26 maart 2016 @ 03:44 schreef Joran-Joran het volgende:

[..]

Interessant inderdaad maar daar wil dan natuurlijk geen enkel bedrijf zijn naam aan durven te verbinden

Geen bedrijf, dan maar bij student of onder universiteit plaatsen. Zo ziet men gewoon als experiment, niet als bedrijf.

Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen

zaterdag 26 maart 2016, 05:41 uur #8

Bartleesthetnieuws

quote:
'bij te kunnen dragen aan een internet dat niet het slechtste, maar het beste van de mensheid vertegenwoordigd'.

Dream on...

zaterdag 26 maart 2016, 06:10 uur #9

Rica

Mais, je rêve!

foto
foto
foto

4chan

Don't try and blame me for your games
Your games are death
My world is light, the angels fill my eyes
With every breath

Eindredactie Frontpage

zaterdag 26 maart 2016, 07:04 uur #10

Philosocles

blogito ergo sum

quote:
Op zaterdag 26 maart 2016 @ 06:10 schreef Rica het volgende:
[ afbeelding ]
[ afbeelding ]
[ afbeelding ]

4chan

't Is inderdaad om je de pestpleuris te lachen maar ergens is het ook om te huilen. Want dit is dus schijnbaar uberklassieke A.I. in de zin dat taal wordt opgevat als domme symboolmanipulatie zonder enig begrip van de inhoud (syntaxis met 'gratis' - dus eigenlijk geen - semantiek). Wat dat betreft is er de afgelopen twee decennia bedroevend weinig vooruitgang geboekt.

iedereen is uniek behalve ik

zaterdag 26 maart 2016, 08:10 uur #11

Demaas_isnat

quote:
Op zaterdag 26 maart 2016 @ 07:04 schreef Philosocles het volgende:

[..]
't Is inderdaad om je de pestpleuris te lachen maar ergens is het ook om te huilen. Want dit is dus schijnbaar uberklassieke A.I. in de zin dat taal wordt opgevat als domme symboolmanipulatie zonder enig begrip van de inhoud (syntaxis met 'gratis' - dus eigenlijk geen - semantiek). Wat dat betreft is er de afgelopen twee decennia bedroevend weinig vooruitgang geboekt.

Voordeel
Voorlopig zijn mensen dus nog niet overbodig in beroepen waar communicatie belangrijk is

zaterdag 26 maart 2016, 10:19 uur #12

Twiitch

Speelt met zichzelf

Kunstmatige intelligentie zit vijf minuten op het internet en vervalt meteen tot trollen. Experiment geslaagd dacht ik zo.

zaterdag 26 maart 2016, 10:22 uur #13

Rijger

I couldn't cat anymore

Dit keer kwam het 'robotje' binnen 24 uur voor het's mening uit. ( Wil wel hij/zij zeggen maar het is en blijft een ding natuurlijk. )

Hier een film van een slimmere robot die langzaam in het leven van mensen infiltreert en dan plotseling met heel bijzondere eisen op tafel komt met name richting het leger inzake oorlog enz.

foto
Hello humanity of planet Earth

Ik ben inmiddels overleden!
Everyone around you was corrupted, say something!
Hell is empty, the devil is here. We suffer in silence!
It came like Jesus to a child but it left as if raped by Satan.

zaterdag 26 maart 2016, 10:32 uur #15

Rijger

I couldn't cat anymore

quote:
Op zaterdag 26 maart 2016 @ 10:23 schreef spoorrails het volgende:

[..]

Ach het is Microsoft, daar staat alles al decennia stil, alleen windows en office niet.

Een kunstmatige intelligentie moet taal onafhankelijk zijn. TayTwitter bot was duidelijk taal afhankelijk. Zo'n ding moet net zo goed chinees, japans, nederlands of turks kunnen, en daarvoor is een totaal andere aanpak nodig. Als baby weet een mens ook niet welke taal die gaat leren. Dus in plaats van woorden geen semantiek of lecticon dat vast ligt of disambigue is, maar gewoon wiskundige cijfers en vergelijkingen.

Scheldwoorden kunnen bijvoorbeeld een negatief cijfer krijgen, een gehele zin zoals dit afschuwelijke Microsoft botje heeft gezegd krijgen dan nog een negatiever cijfer. Daarvoor is wel enig beroepsethiek nodig. En aangezien Microsoft in China ook mensen van de Falung Gong uitlevert aan de overheid wil ik zo wie zo geen kunstmatige intelligentie van Microsoft hebben.

Microsoft doet verder steeds alsof het om een frisse jonge vrouw gaat waarmee je spreekt, zoals Cortana in Windows 10 die een vrouwenstem heeft en zogenaamd een vrouw is. Maar in werkelijkheid is het een keiharde gedistribueerde cluster van computers in een datacentre waarmee je echt geen liefdesrelatie kan beginnen.

In de realiteit heb ik daadwerkelijk chatbots gezien die mannen geld afhandig maken op het gebied van seksueel getinte gesprekken per sms a 50 cent per bericht e.d. En mannen trappen er dus daadwerkelijk in, in die seksbots per sms.

(Ja echt gezien, een jongeman die 3 maanden met een seksbot denkt een afspraakje te kunnen krijgen en honderden euro's aan belkosten heeft en daarna zijn telefoon tegen de muur kapot gooit nadat zijn echte vriendin er achter kwam dat hij sekschat's deed met een seksbot.

Ik ben inmiddels overleden!
Everyone around you was corrupted, say something!
Hell is empty, the devil is here. We suffer in silence!
It came like Jesus to a child but it left as if raped by Satan.

zaterdag 26 maart 2016, 11:17 uur #16

neo2000

Asking the important questions

quote:
Op zaterdag 26 maart 2016 @ 10:32 schreef Rijger het volgende:

[..]
En aangezien Microsoft in China ook mensen van de Falung Gong uitlevert aan de overheid wil ik zo wie zo geen kunstmatige intelligentie van Microsoft hebben.

Nou.. Zeg je internetverbinding dan maar snel op, aangezien o.a. Cisco hetzelfde doet en er grote kans is dat als je ergens naartoe browsed, je wel gebruik maakt van apparatuur van Cisco.

Common sense is my super power. What's yours?
Has anyone really been far even as decided to use even go want to do look more like?

zaterdag 26 maart 2016, 11:30 uur #17

Kuikenbiefstuk

OH NEE TOCH?! TOCH GEEN RACISME?! AAAAAAH!

Gauw, excuses voor iedereen die beledigd is!

zaterdag 26 maart 2016, 15:46 uur #18

Manke

'tis but a scratch

De volgende uitdaging is kunstmatige moraal.

Ben benieuwd hoe de bot wordt als het moraal leert uit verschillende religieuze teksten en seculiere en wetenschappelijke boeken daarover.

En ze dan tegen elkaar laten praten

zondag 27 maart 2016, 00:20 uur #19

marc0871

quote:
Op zaterdag 26 maart 2016 @ 15:46 schreef Manke het volgende:
De volgende uitdaging is kunstmatige moraal.

Ben benieuwd hoe de bot wordt als het moraal leert uit verschillende religieuze teksten en seculiere en wetenschappelijke boeken daarover.

En ze dan tegen elkaar laten praten

waarschijnlijk verwerpt die computer religie als onlogisch en de mens als zijn creator omdat zo'n onlogisch wezen nooit de schepper kan zijn van een logisch systeem.

In de hemel is geen bier. Daarom brouwen we het hier
Het beste bier brouw je zelf.
Bier is bitter. Bier is best. Bier is beter dan de rest.
Ik heb alleen een drankprobleem als het op is.

zondag 27 maart 2016, 03:28 uur #20

TjerkdeVries

Een puber zie je wel vaker onzin roep toeteren als ze opgroeien. Zie het als een groeistuip, komt allemaal wel weer goed.

For each contact, there is a solution!
The person most likely stopping you, is you.

dinsdag 29 maart 2016, 07:52 uur #21

Bubble-Urp

quote:
Op zaterdag 26 maart 2016 @ 10:22 schreef Rijger het volgende:
Dit keer kwam het 'robotje' binnen 24 uur voor het's mening uit. ( Wil wel hij/zij zeggen maar het is en blijft een ding natuurlijk. )

Hier een film van een slimmere robot die langzaam in het leven van mensen infiltreert en dan plotseling met heel bijzondere eisen op tafel komt met name richting het leger inzake oorlog enz.

foto
Hello humanity of planet Earth

Gaaf filmpje