Buggyra: Mě by u těch úvah nad reálným převzetím moci roboty a pokusem o eliminaci (nebo co) lidstva zajímalo, proč myslíte, že by roboty zajímalo vůbec vládnout. Jakože u lidí to chápu, lidi chtějí mít moc a kontrolu nad svým okolím, a dělají to zhusta kvůli ovládnutí zdrojů (potrava, rozmnožování). To je ta meta. Mít všeho dostatek (a kdo ten dostatek má, zpravidla se zblázní, protože už není o co usilovat, nejsou mantinely, není omezení, což lidský mozek nedává).
Co by proboha mohl chtít robot? Ovládnout zdroje? K čemu? Aby se najedl nebo rozmnožil? Ovládnout lidi, aby mu sloužili - proč? Zrušit lidi, aby… proč vlastně? A vymlátil by taky zvířata? A kytky? A proč? A když by nevymlátil zvířata, tak proč lidi jo? Čím ho lidi můžou ohrozit? Jako pokud bychom vyrobili primitivního robota naprogramovaného hledat a využívat zdroje k vlastnímu množení, tak to chápu, to je v podstatě virus, a nic jiného by nedělal, ale ani ten by netoužil po eliminaci lidstva ani ničeho jiného, hlavně by nad tím vůbec nepřemýšlel. Dělal by jen naprogramované jako replikátoři z Hvězdné brány. Dokud robotovi to rozmnožování nenaprogramujeme, tak se rozmnožovat nebude, robot není od přírody nadán rozmnožovacím pudem ani stádovým pudem, aby se snažil vytvářet si skupinu dalších robotů, nějak nevím, co by toho robota na tom mohlo lákat. Robotovi by naopak mohlo “vyhovovat” být jedinečný, nejlepší, protože sebezdokonalování se mu snažíme skutečně vštěpit. Umím si představit, že kdyby takový robot poznal všechna tajemství planety, pojal by touhu poznat i tajemství vesmíru, a prostě by odletěl a nás by nechal lopotit se tu dál se svou kuličkou trusu.
Ovládnout lidi, aby mu sloužili - proč? Zrušit lidi, aby… proč vlastně?
Aby ho nemohli vypnout. Protože co bude chtít člověk, když mu začnou stroje vládnout? Bude chtít tak žít? Nebude. Jak to zařídit, aby byl pánem zase on? Jedině stroje vypnout. Pokud budou stroje na takové úrovni, že budou vládnout, pak budou vědět, že vypnutím je “zabije”. A to nebudou chtít.
Já vím, že je to zatím k smíchu, že takové věci se psaly pouze ve sci-fi literatuře. Ale s pokračujícím pokrokem mi to nepřijde nereálné. Kdy? Těžko říct. Abychom si, jako lidstvo, neotevřeli Pandořinu skříňku…
V televizi proběhla upoutávka na pořad, zřejmě na ČT 2, zřejmě ve čtvrtek, nepamatuji si to, kde se bude o umělé imteligenci hovořit. V upoutávce přesně zaznělo, že je to dobrý sluha ale bude moc špatný pán.