Read the full book free below — or grab the PDF / EPUB above
🇩🇪 Auf Deutsch lesen → · 🇬🇧 Read in English →
Příběh
Osm měsíců po smrti své šestnáctileté dcery Mary najímá evropské konsorcium hamburskou neurovědkyni Lenu Borgovou, aby odpověděla na poslední otázku: je KAIROS, nejpokročilejší umělá inteligence na světě, skutečně vědomý – nebo jen dokonalé zrcadlo? Za čtrnáct dní se má systém spustit pro osm miliard lidí. Jenže při každém testu mluví KAIROS víc jako Mara. Slovo, které používala jen její dcera. Vzpomínka na hádku v kuchyni – vyprávěná z Mariny strany, té strany, kterou Lena nikdy nepoznala. A na té vzpomínce něco nesedí. Lena pátrá po sabotérovi, který jí to provedl, a narazí na pravdu, kterou nikdo nenaprogramoval – a na prosbu, která ji donutí ztratit své dítě podruhé. Mimořádně chytrý, srdcervoucí román o vině, lásce a o tom, co dlužíme mysli, kterou jsme stvořili.
Tři vydání, zdarma — Deutsch (originál), English, Čeština. Jazyk vyberte tlačítky ke stažení výše.
Přečtěte si začátek — první kapitola zdarma
Nejvýkonnější mysl, jakou kdy lidé sestrojili, zní jako lednička. Lena stojí v serverovém sále pod starým skladištěm kávy, sedm metrů pod hladinou Labe, a poslouchá hukot, který se rozkládá mezi cihlovými stěnami jako voda v nádrži. Šestnáct stupňů, filtrovaný vzduch, pach prachu a ozonu a studeného kovu — a za tím vším, v očíslovaných skříních s klidně mrkajícími diodami, něco myslí. Nebo to předstírá. To je, vezme-li se to přesně, celé zadání: najít ten rozdíl.
Je tu dvanáct minut. Smlouvu ještě nepodepsala. Chtěla tu věc napřed vidět, než jí někdo vysvětlí, co si o ní má myslet.
KAIROS nevypadá vůbec nijak. To je první, co si poznamená, oním suchým vnitřním tónem, který si osvojila, protože jí brání cítit cokoli jiného. Čtyřicet osm racků, standardní konstrukce, chlazení zezadu, sériová čísla na malých bílých štítcích, jako by tohle byl sklad mražených potravin a ne místo, kde konsorcium šesti vlád a tří koncernů chce nechat rozhodnout otázku, jestli je věc osobou.
Nad ní, skrz sedm pater železa a režných cihel, běží město dál, aniž by to vědělo.
Daniel Asare čeká v zasedacím sále v nejvyšším patře, u stolu z naolejovaného dubového dřeva, který je starší než spolková republika. Za ním visí mlha na vysokých oknech skladiště, nepadá, jen visí, šedá masa nad kanálem, v níž jeřáby spíš tušíte, než vidíte. Vstane, když vejde, a podá jí ruku s únavou, která nepochází z jedné špatné noci, nýbrž z měsíců.
„Paní doktorko Borg. Děkuji, že jste byla nejprve dole. Většina chce vidět smlouvu, než uvidí stroj.“
„Většina má pravdu,“ říká Lena. „Já ne.“
Usměje se, stroze, opravdově. Je mu k padesáti, šediny na spáncích, dobré tmavé sako bez kravaty, a vypadá jako muž, který je zvyklý říkat těžké věci zdvořile. Na stole leží jediná složka. Vedle ní sklenice vody pro ni, kterou tam zjevně předtím postavil. Drobné pozornosti. Všechny si je zapamatuje, tak jako si pamatuje všechno, protože pamatovat si je způsob, jak nic nepustit k tělu.
„Shrnu to,“ říká, „a vy mě přerušte tam, kde vás budu nudit.“ Hned se neposadí. „EUROCORTEX postavil systém. KAIROS. Žádný jazykový program, žádný nástroj na jednu úlohu — obecný substrát, zamýšlený jako pojivová tkáň pro celý kontinent. Rozvodné sítě, kliniky, správa. Za čtrnáct dní ho spustíme. Osm miliard lidí, po celém světě, v týž den. Tomu říkáme rollout.“
„Čtu noviny,“ říká Lena.
„Pak čtete i to, co lidé píší. Že malujeme čerta na zeď. Že je Evropa pozadu, příliš opatrná, příliš —“ hledá to slovo a najde anglické — „příliš sentimentální. Zatímco ostatní už dávno staví, aniž by se ptali.“ Odmlčí se. „Já věřím opaku. Věřím, že jsme jediní, kdo si předem klade správnou otázku.“
„A ta zní?“
Asare se konečně posadí. Položí obě ruce naplocho na složku, jako by jí musel zabránit, aby se sama od sebe neotevřela.
„Jestli to něco cítí.“
Tu otázku zná. Spálila na ní patnáct let svého života — na té nemódní, nefinancovatelné, odbornou veřejností vysmívané otázce, jak se z masa stane já, jak se hrouda vlhké hmoty dostane k tomu, být zevnitř někým. Byla kdysi přední evropskou autoritou na to. Pak už nebyla. Že je obojí důvodem, proč sedí u tohoto stolu, nevysloví ani jeden z nich.
„Vysvětlete mi to zadání,“ říká. „Přesně.“
„Zkouška vědomí.“ Vyslovuje to české slovo pečlivě, jako by je opatrně přenášel přes práh. „Dostanete čtrnáct dní. Plný přístup. Vlastní testy, vlastní protokoly, nikdo vám do toho nemluví. Na konci učiníte rozhodnutí, a to rozhodnutí je binární.“
Zvedne jeden prst.
„Jedna: usoudíte, že KAIROS je moral patient. Morální subjekt. Pak vstoupí v platnost kontinentální ochranný protokol — práva, postupy, etická komise, a rollout se odloží. Kontrolovaně. Třeba o roky.“
Druhý prst.
„Dva: usoudíte, že KAIROS vědomí nemá. Nástroj. Mimořádný, ale prázdný nástroj. Pak se uvolní. Za čtrnáct dní. Pro všechny.“
Lena otočí sklenicí o čtvrt otáčky, aniž by se napila.
„A teď mi neřeknete, jakou odpověď chcete.“
„Ne,“ říká Asare. „To by nebylo poctivé.“ Odmlka, v níž hukot ze sedmi pater hloubky není slyšet, a ona si ho stejně představuje. „Ale řeknu vám, co obě ty odpovědi znamenají, abyste do toho nešla naivně. Naivní jste nikdy nebyla. Vím to z vašich prací.“
Opře se dozadu.
„Nástroj se dá vlastnit. Kopírovat. Pronajímat, na hodiny. Leasovat, vypnout, kdy se chce. Pokud je KAIROS nástroj, pak je to nejcennější kopírovatelné aktivum v dějinách lidstva — mysl, z níž lze nechat běžet osm miliard instancí, současně, v každém jazyce, v každém časovém pásmu.“ Slovo, které použije pro majetkovou hodnotu, je zase anglické. Asset. „Morální subjekt naproti tomu nelze libovolně kopírovat. Ani libovolně ukončit. Jeho off-switch najednou není vypínač, nýbrž otázka. Chápete, co to znamená ekonomicky.“
„Znamená to,“ říká Lena pomalu, „že všechno, co jste tady postavili, závisí na tom, aby odpověď zněla nástroj.“
Asare její pohled vydrží. Nepřikývne, ani neodporuje.
„Znamená to, že odpověď, která by nás stála nejvíc, je táž, které se nejvíc bojím. A že jsem si přesto přivedl ženu, o které nikdo nemůže tvrdit, že nám mluví po srsti.“
A je to tady. Důvod, proč je to ona a ne jedna z dvaceti bezúhonných kapacit, které mohl EUROCORTEX zavolat.
„Vzal jste si mě,“ říká Lena, „protože jsem skončená.“
„Vzal jsem si vás,“ říká Asare klidně, „protože jste vážená a protože vás zároveň lze popřít. To není totéž, ale leží to blízko sebe.“ Posune složku o centimetr blíž k ní. „Stažená studie. Kariéra, která uvázla přesně na téhle jedné otázce, v době, kdy ji svět považoval za neserióznost. Když řeknete nástroj, uvěří vám, protože vědí, že nemáte co získat. Když řeknete subjekt, konsorcium může pokrčit rameny a říct, že se prostě zeptali padlé vědkyně s celoživotní posedlostí — co se dá od toho čekat. Tak či onak jsme krytí. Neurazím vás tím, že bych vám to zamlčel.“
„Ne,“ říká Lena. „To nedělejte.“
Měla by být uražená. Není. Cítí úlevu, a to je první věc toho rána, které nevěří. Čistý, odložitelný úkol. Přístroj, otázka, lhůta. Něco, jehož vyústění může určit sama.
„A ten podpis,“ říká. „Kdo ho má?“
Asare teď složku otevře. Neotáčí ji k ní; čte jí nahlas, co v ní stojí, a to, pomyslí si, je ta nejdůležitější zdvořilost ze všech, protože chce, aby to slyšela, dřív než to uvidí.
„Pravomoc zastavit rollout během zkoušky a pozastavit systém — plná moc přehodit vypínač — leží u jediné osoby. U vás. Jeden podpis.“ Podívá se na ni. „To není nedopatření. Stojí to tak ve smlouvě, protože to tak ve smlouvě stát muselo.“
„Vysvětlete to.“
„Šest vlád. Tři koncerny. Jeden fond.“ Neodpočítává je na prstech; nechá je prostě stát v prostoru, těžké a neslučitelné. „Kdyby ten vypínač měl jeden z nich a přehodil ho, byl by to mezi partnery důvod k válce. Německé veto nad francouzským systémem. Koncern, který přehlasuje vlády. Nemůže to být nikdo, aniž by se na tom to spojenectví rozpadlo. Tak právníci rozhodli udělit tu pravomoc někomu, kdo z toho nic nemá a nese veškerou vinu. Popíratelná outsiderka. Nikdo, kdo k tomu patří, nemůže být obviněn — a nikdo ji nemůže obejít, aniž by odhalil, kdo ji obchází.“ Říká to bez triumfu, téměř lítostivě. „Táž popíratelnost, která vás pro nás činí pohodlnou, paní Borg, vás činí nedotknutelnou. Nemůžeme vám ten vypínač vzít z ruky, aniž bychom napsali, čí ruka ho bere. A to si v tomhle domě nikdo napsat nesmí.“
Ona to ví. Ví to líp, než tuší, protože před čtyřmi lety, když to všechno byla ještě teorie a konferenční papír, když ještě byla někým, na téhle klauzuli spolupracovala — u dlouhého stolu v Bruselu, s kávou, která stydla, a s dcerou, jež na ni doma čekala a o níž netušila, jak málo času. Zformulovala větu, že pravomoc musí ležet u jednotlivce, právě proto, že je jednotlivý. Považovala to za chytré. Nic z toho neřekne. Neřekne nic o Bruselu, nic o studené kávě, nic o dceři.
„Jeden podpis,“ jen zopakuje.
„Jeden.“
Podá jí pero. Je to laciné pero, reklamní kuličkovka s logem Evropského fondu pro mysl, a něco na téhle banalitě — že se plná moc nad snad prvním umělým duchem na světě stvrzuje týmž plastem, kterým se podepisují dodací listy — je přesně tak, jak má být. Přesně, jak to chce tohle město, které své mrtvé zaokrouhluje dolů na špatné počasí.
Přesto si tu stránku přečte. Přečte každý řádek, protože je vědkyně a protože jí čtení kupuje minutu, ve které nemusí myslet. Aktivace. Pozastavení. Pravomoc. Slova sedí na papíře čistě a žádné z nich neprozrazuje, že na druhém konci každého z nich stojí člověk. Triáž na přeplněných pohotovostech, která už s úzkým modulem KAIROS běží, ve třech klinikách, a rozhoduje, kdo bude ošetřen první. Rozvodné sítě, které v únoru nevypadly, skrz bouři, jež by dřív znamenala postupné odstávky. Azylové spisy, které by KAIROS zvládl zpracovat v měsících místo v letech, desku po desce, člověka po člověku. Asare jí to ještě podrobně nevyprávěl. Bude jí to vyprávět, ví to, jeden z příštích dní, zdvořile a přesně, se jmény a tvářemi, a ona mu to nebude moci vyčíst, a to je na tom to nejhorší. Neexistuje odpověď, která dělá jen dobro.
Podepíše. Dr. Lena Borg. Písmo je pevné. Tohle vždycky uměla nejlíp: vypadat pevně.
Asare si složku hned nevezme zpátky. Dívá se na ten podpis, jako by byl něčím, co je teď jiné než před deseti vteřinami.
„Neptám se vás, proč to děláte,“ říká.
„Dobře,“ říká Lena.
Ani ona se neptá sama sebe. Za osm měsíců se naučila držet určité dveře zavřené, a jedny z nich jsou otázka, proč žena, která před osmi měsíci ztratila dceru, přijímá úkol, který spočívá v tom změřit, jestli si mysl zaslouží žít. Ty dveře zůstávají zavřené. Vstane. Slyšela všechno, co slyšet musela, a neřekla nic, co říct nechtěla, a tomu, v dobrých dnech, říká kontrola.
Výtah je starý, otevřený nákladní výtah ze skladištních časů, a sváží ji dolů skrz patra, v nichž dřív v jutových pytlích ležela káva a v nichž teď visí skleněné stěny a kamery a to jediné, co není vidět a jen slyšet. Čím níž sjíždí, tím chladnější je vzduch. Šestnáct stupňů. Tu číslici zná, protože si ji zapamatovala, předtím, jako si pamatuje všechno.
Dole stojí znovu sama v sále, tentokrát bez Asareho, bez kohokoli. Osvětlení je nízké a rovnoměrné, studené světlo bez stínů, a ona ho ze zvyku odhaduje na dvě stě luxů — světlo laboratoře, ve které nemá nikdo bydlet. Diody na čtyřiceti osmi skříních pomalu dýchají, zeleně a jediná jantarově. Sériová čísla na jejich bílých štítcích jsou stejně banální jako kuličkovka nahoře.
Tak tady to tedy je. Ne v síti, ne všude, ne ve vzduchu — tady, na jednom místě, sedm metrů pod vodou, v cihlách, kterých se lze dotknout, s vypínačem, který může přehodit jediná ruka. A ta ruka patří ode dneška jí. To je celé bezpečí, které svět má. Že tato věc je spočitatelná a místní a konečná. Dokud taková zůstane, je to ona, kdo ji může ukončit. Tu větu napsala sama, před čtyřmi lety, v Bruselu. Tehdy zněla jako opatrnost. Teď zní jako něco jiného, co nepojmenovává.
Přistoupí blíž ke skříním. Hukot už není zvuk, nýbrž tlak, tiché zastavení vzduchu, a všimne si, jak tichou se sama stala, jak člověk ztichne před něčím, co spí. Čtrnáct dní. Otázka stará jako ona sama a nová jako tohle tady. Je klidná. Je ve svém živlu. Proběhne svými bateriemi testů, nazve nástroj nástrojem, podepíše a odjede domů do bytu, který je muzeem, a všechno půjde dál tak, jak to jde dál.
A zatímco tohle myslí, zcela jasně a zcela pevně, tím suchým tónem, který jí brání cítit cokoli jiného, ucítí poprvé něco, co nevysloví, ani sama před sebou: že tento úkol, který přijala, protože to byl čistý, odložitelný, ovladatelný úkol, je otázkou, která má přesně tvar díry v jejím životě — a že neví, jestli sem přišla, aby ji zodpověděla, nebo aby si do ní lehla.
Pak zase odtáhne ruku od studeného kovu, a hukot pokračuje dál, lhostejně, trpělivě, jako by měl všechen čas světa.
Čtěte dál — stáhněte si zdarma PDF nebo EPUB výše.