Wprowadzenie

W tym artykule omówione zostaną kwestie etyczne wynikające z technologii neuronowych w zakresie czytania w myślach. Termin "czytanie w myślach" został użyty do opisania mechanizmów wykorzystywanych przez interfejsy mózg-komputer (BCI) i dekodowanie neuronowe za pomocą neurotechnologii. W filozofii umysłu umysł odnosi się do stanów mentalnych (wyobraźnia, emocje, intencje, percepcja, podejmowanie decyzji itp.), A dzięki technologiom łączenia mózgu neuronauka jest teraz w stanie podkreślić pewne korelacje między stanami mentalnymi a aktywnością mózgu. Istnieje zatem pewna materialna podstawa umysłu.

Jednak dostęp do jakiejś materialnej podstawy stanów mentalnych pozostaje fragmentaryczny i nie obejmuje jednocześnie wszystkich aspektów umysłu. Innymi słowy, neuronalne korelaty pozostają fizycznymi odciskami ekspresji umysłu, ale nie są wystarczające, aby myśleć o nich jako o konstytuujących cały umysł. Należy unikać pomieszania myśli umysłowych z fragmentarycznymi oraz między czytaniem w myślach a czytaniem pewnych neuronalnych odcisków myśli. W szczególności protezy nerwowe mogą umożliwiać odczytywanie neuronalnych korelujących fragmentów stanów psychicznych, ale nie całego umysłu w skali globalnej. Zakres, w jakim wszystkie fragmenty myśli, które można odkodować z zapisów neuronowych, stanowią całe myśli, pozostaje zatem niejasny. Najpierw zajmiemy się tym pytaniem ogólnie, a następnie bardziej szczegółowo w odniesieniu do kontekstu mowy BCI. W przypadku mowy BCI pytamy: w jakim stopniu protezy mowy mogą umożliwiać dostęp do naszych myśli?

Podczas gdy ludzie na ogół są dość wiarygodni w "czytaniu w myślach" siebie nawzajem, zgodnie ze znanymi wskazówkami behawioralnymi i językowymi, w rzeczywistości są w stanie wywnioskować myśli innych na podstawie znaków, które druga osoba celowo uzewnętrznia (niezależnie od podświadomości i innych podobnych "podpowiedzi"). W szczególności dostęp do wewnętrznego myślenia innej osoby pozostaje niedostępny, można tylko przewidzieć to. Zwrot technologiczny w ramach tej znanej praktyki budzi obawy etyczne, ponieważ rodzaj i treść informacji, do których można uzyskać dostęp za pomocą urządzenia do czytania w myślach, może znacznie odbiegać od ludzkich wniosków opartych na bardziej tradycyjnych metodach interpersonalnych. Być może technologia twierdzi, że jest obiektywna w sposób, w jaki nie robi tego wiele interpretacji interpersonalnych. Umieszczenie umysłu w sferze obiektywnej czytelności może wydawać się z tego powodu bardziej niebezpieczne niż umieszczenie go w znanych społecznych, omylnych sferach. Specyficzne pojęcie technologicznie zapośredniczonego czytania w myślach jest najwyraźniej szczególnym rodzajem problemu, a więc wymaga konkretnej dyskusji.

Aby ustrukturyzować dochodzenie w miarę postępów, musimy zbadać:

  1. 1.

    Co BCI i dekodowanie neuronowe mogą obecnie zrobić, a co może być wkrótce możliwe

  2. 2.

    Zagadnienia etyczne w obecnej i przyszłej neurotechnologii

  3. 3.

    Neuroproteza mowy jako urządzenie do czytania w myślach

Następnie zapytamy dalej:

  1. 4.

    Jak powinniśmy traktować te kwestie etyczne?

  2. 5.

    Jaka dalsza analiza jest potrzebna?

Zapoznając się z możliwościami technologicznymi neurotechnologii, takich jak BCI, możemy realistycznie sformułować obawy etyczne, które mogą się pojawić. Podobnie, aby rozważyć, w jaki sposób etycy powinni reagować na pojawiające się problemy lub uprzedzać prawdopodobne przyszłe problemy, konieczny jest jasny obraz tego, co dzieje się w kontekstach dekodowania mózgu. Organy finansujące i finansowani przez nie naukowcy mają szczególne obowiązki w tym zakresie. Konstruując zaproszenia do badań, fundatorzy kierują wysiłki w określonych kierunkach. Tworząc te technologie, naukowcy muszą pracować odpowiedzialnie i jasno komunikować charakter swojej pracy, zarówno pod względem obecnych możliwości, jak i prawdopodobnych przyszłych scenariuszy. Etycy potrzebują jasnych obrazów tego, co dzieje się ze strategiami finansowania i rozwojem technologii, aby zastanowić się nad tym i zareagować na to. Ostatecznie takie refleksje mogą przejść do porad dotyczących polityki zalążkowej, a także do pokolorowania opinii publicznej. Ma to zasadnicze znaczenie dla jasnego spojrzenia na ekosystem badawczy, w tym na to, w jaki sposób wpływa on na szersze realia społeczno-polityczne. Zbadamy to ogólnie, a także zagłębimy się w protezę mowy jako szczególny przypadek. Jest to uważane za szczególnie interesujące, biorąc pod uwagę bliskość między wieloma myślami a językiem.

Co BCI i dekodowanie neuronowe mogą obecnie zrobić, a co może być możliwe wkrótce

Na najbardziej ogólnym poziomie neurotechnologie działają poprzez rejestrowanie aktywności elektrycznej w mózgu i stosowanie różnych procesów do uzyskanych wyników. Rejestracja może odbywać się w samym mózgu za pomocą makroskopowych lub mikroskopijnych sond śródmózgowych/wewnątrzkorowych, na jego powierzchni za pomocą elektrokortykografii (ECoG) lub z nieinwazyjnych elektro- lub magneto-cencefalograficznych (EEG / MEG) urządzeń rejestrujących umieszczonych nad głową. Wszystkie rodzaje nagrań mózgu mogą być skorelowane z różnorodną aktywnością fizyczną i poznawczą.

Biorąc pod uwagę trwającą aktywność w dziedzinie czytania mózgu i próby skorelowania tej pracy ze stanami psychicznymi, ważne jest, aby zachować czujność w wymiarze społecznym, prawnym i politycznym badań podstawowych i równoległego rozwoju technologii. Natura jednostki jako podmiotu samego w sobie, miejsca celowego działania, może zostać zakwestionowana w rozwoju technologii, które wydają się czytać umysły, niezależnie od tego, czy faktycznie czytają umysły (Mecacci and Haselager 2019) .

Czytanie umysłu, podobnie jak czytanie książki, implikuje coś o tym, że umysł jest potencjalnie otwarty na widok. Oznaczałoby to radykalne odejście od konwencjonalnych opisów czyjegoś umysłu jako dostępnego tylko dla samego siebie. W kontekście czytania w myślach jedna osoba może uzyskać dostęp do pomysłów, myśli, intencjonalnych, emocjonalnych, percepcyjnych stanów lub wspomnień innej osoby. Można to zrobić za zgodą lub bez pozwolenia. Może zaoferować obietnicę ekscytujących nowych sposobów komunikacji, wyrażania siebie i wzajemnego zrozumienia. Często jest to fantastyka naukowa, ta perspektywa może mieć alarmujące wymiary dotyczące tego, kto może mieć dostęp do umysłu, a także implikacje dla tego, jak ludzie mogą być oceniani. Czy w świecie czytania w myślach człowiek powinien być oceniany w kategoriach tego, co ujawnia dobrowolnie, lub co można wyczytać z jego myśli?

Na przykład od 2013 roku wiadomo, że wykrycie określonego rodzaju sygnału (fala "P300") może odgrywać rolę w "szpiegowaniu" aktywności mózgu w celu wydobycia poufnych informacji. Można to zrobić za pomocą podprogowych wskazówek, być może w celu uzyskania informacji przewidujących osobiste przekonania. Naukowcy skonstruowali grę i zarejestrowali aktywność mózgu jej graczy. Sygnały te mogą być przetwarzane w celu uzyskania szczegółowych informacji na temat numerów PIN banku i powiązanych prywatnych informacji bez wiedzy gracza (Ienca et al. 2018) . Dokonano tego poprzez rejestrowanie aktywności mózgu podczas gry i przetwarzanie sygnału w celu wyszukania fal P300 w odpowiedzi na ukryte wskazówki. Dane dotyczące mózgu są zatem wyraźnie bardzo wrażliwe, ponieważ mogą zawierać informacje, których podmiot może nie chcieć uzewnętrzniać, ale które mimo to mogą stać się dostępne dla innych, w określonych sytuacjach wykorzystujących neurotechnologię.

Kwestia ta jest dość ostro podniesiona tam, gdzie neurotechnologia miałaby zastosowanie w sferze prawnej. Meegan (2008) omawia zastosowania wykrywania pamięci przez organy ścigania. Rozpoznanie sceny lub obiektu może być czymś wykrywalnym w aktywności neuronalnej, niezależnie od twierdzeń jawnie wygłaszanych. Jeśli chodzi o czytanie pamięci, może to być postrzegane jako papierek lakmusowy – idea "winnej wiedzy" jako dymiącego pistoletu na sali sądowej. Czy wspomnienia, które są przechowywane, ale nie są przywracane w chwili obecnej, byłyby dostępne dla czytelnika umysłu? Jest to neurologiczne pytanie o to, w jaki sposób przechowywane są wspomnienia i jaka jest różnica między pamięcią, która została zapisana, a tą, która jest przywracana. Jest to jednak również kwestia etyczna, ponieważ ma konsekwencje dla tego, jakie granice powinniśmy stosować, traktując je jako czytelne w kategoriach maszynowych.

Poprzez rejestrowanie sygnałów z różnych regionów mózgu badania sugerują, że dość drobnoziarniste informacje można częściowo odczytać z aktywności mózgu. Plany motoryczne, obrazy wizualne, percepcje, takie jak twarze (Chang and Tsao 2017), mowa (Akbari et al. 2018), decyzje i intencje, miejsca przełomowe, nastroje można przewidzieć na podstawie nagrań neuronowych (Haynes et al. 2007; Kay i in. 2008; Roelfsema i in. 2018, s. 13; Sani i in. 2018). Istniejące technologie badawcze można wykorzystać do dekodowania neuronalnych korelatów obrazów mentalnych, rzeczy widzianych przez człowieka. W kontrolowanych warunkach algorytmy identyfikacji działające na danych fMRI mogą wybrać obraz oglądany przez uczestnika eksperymentu ze znanego zestawu przykładów. Eksperymenty tutaj mogą osiągnąć ponad 90% dokładności (Kay et al. 2008) . Idea prywatności psychicznej z pewnością wydaje się być kwestionowana przez tego rodzaju działania. Takie wyniki wydają się wskazywać, że treść mentalna może być "odczytana" z pomiarów mózgu. Oznacza to, że chociaż ktoś może być pewien, że ma unikalny, uprzywilejowany dostęp do własnych myśli, pewność ta może być źle umieszczona (Eickhoff and Langner 2019; Farah i in. 2009; patrz Mecacci i Haselager 2019).

Jeśli chcemy skupić się na czytaniu w myślach jako punkcie odniesienia dla etycznych obaw związanych z neurotechnologią, możemy zapytać o wspomniane tutaj technologie i techniki: Czy to czytanie w myślach? Bylibyśmy zmuszeni odpowiedzieć, nie do końca. Jeśli chodzi o podejścia do identyfikacji obrazów mentalnych, na przykład, protokół eksperymentalny działa w oparciu o modelowane pole receptywne i dane aktywacji dla zestawów obrazów. Obrazy zdekodowane z danych fMRI są wybierane ze znanej listy i reprezentowane jako pasujące wzorce danych. Jest to szczegółowa i interesująca praca, wyjaśniająca wiele z tego, jak działają reprezentacje wizualne w układzie wzrokowym. Ale nie jest tak, że w niekontrolowanym środowisku urządzenie może zrekonstruować wrażenia wizualne danej osoby.

W przykładzie prawnym można powiedzieć, że techniki te wymagają zwrócenia szczególnej uwagi na określoną aktywność neuronalną w określonych kontekstach. Wspomnienie nie może być po prostu "odczytane", tak jak można przeczytać zdanie na stronie. Ten rodzaj wykrywania pamięci wykorzystuje skojarzenia między znanymi bodźcami i wywołanymi sygnałami neuronalnymi w celu uzasadnienia wniosków na temat przeszłych doświadczeń lub spostrzeżeń podmiotu, takich jak rozpoznanie określonego obrazu. Jeśli, gdy pokazano mi miejsce zbrodni, mój mózg wykazuje reakcję związaną ze znajomością, może to wskazywać, że tam byłem.

Oczywiście przy takim podejściu istnieje ryzyko i potencjał fałszywych alarmów. Z drugiej strony wydaje się równie jasne, że pomysł dostępu do prawdziwej zawartości pamięci lub pobierania zestawu wspomnień nie pojawia się. Nie oznacza to jednak, że problemy etyczne nie powstają. Tam, gdzie pewna praktyka może być traktowana jako czytanie w myślach, nie powinniśmy być zbyt zadowoleni, wykluczając "prawdziwe" czytanie w myślach na temat kwestii technicznych. Podejście wrażliwe na realia etyczne i społeczno-polityczne jest konieczne, aby poradzić sobie z możliwościami pseudo-czytania w myślach, w których ludzie mogą paść ofiarą złych praktyk.

Kwestie etyczne w obecnej i przyszłej neurotechnologii

W zakresie, w jakim neurotechnologie ucieleśniają w jakiś sposób twierdzenie, że umysł może być otwarty na pogląd, każda z nich budzi obawy etyczne związane z szeregiem kwestii, w tym prywatnością psychiczną. Wiąże się z tym również obawa o redukcję stanów psychicznych do zbiorów danych neuronowych. Bardziej szczegółowo omówimy te i powiązane obszary wolności poznawczej i samoświadomości. Zanim zagłębimy się w te funkcjonalne problemy wynikające z zastosowania neurotechnologii, należy powiedzieć coś o prezentacji neurotechnologii.

Poza laboratorium badawczym istnieje wiele BCI już dostępnych komercyjnie, w tym produkty takie jak Cyberlink, Neural Impulse Actuator, Enobio, EPOC, Mindset (Gnanayutham and Good 2011) . Potencjalne perspektywy zastosowań opartych na tego typu technologiach są interesujące (Mégevand 2014). Należy jednak dokładnie zbadać wiarygodność twierdzeń technologicznych.

Podczas gdy wykrywanie sygnałów nerwowych jest w zasadzie łatwe, ich identyfikacja jest trudna (Bashashati et al. 2007) . Wiele wysiłków badawczych ma na celu poprawę technologii wykrywania i nagrywania. Powinno to pomóc w poprawie perspektyw identyfikacji zarejestrowanych sygnałów neuronowych. Identyfikacja ma kluczowe znaczenie dla czytania w myślach, ponieważ zarejestrowane sygnały muszą być w jakiś sposób skorelowane ze stanami psychicznymi. Jest to również istotne z etycznego punktu widzenia, nie tylko ze względu na perspektywę błędnej identyfikacji stanów psychicznych poprzez niewłaściwie przetworzone nagrania mózgu lub poprzez fałszywe przedstawienie charakteru nagrania.

Sygnały mózgowe można podzielić na typy. Miejsca nagrywania można klasyfikować w sposób funkcjonalny - na przykład wizualne, motoryczne, pamięciowe, językowe. To, że rodzaje sygnałów w określonych obszarach wydają się być "za" naszą świadomą aktywnością, sugeruje, że aktywność powinna być klasyfikowalna w dość obiektywny sposób. Przynajmniej niektóre paradygmaty rozwoju neurotechnologicznego sugerowałyby, że tak właśnie było: twierdzono o rodzajach technologii omówionych powyżej, takich jak "dostęp do myśli", "identyfikacja obrazów z sygnałów mózgowych", "odczytywanie ukrytych intencji" (Haynes i in. 2007; Kay i in. 2008). Zajmowanie się sygnałami mózgowymi oznacza dotarcie do treści mentalnej, sugerują te twierdzenia.

Ale może to być przypadek przesady. Wydaje się, że potrzeba o wiele więcej informacji niż jest przechwyconych poprzez pomiar sygnałów mózgowych, jeśli mają być z nich wyciągnięte znaczące wnioski na temat treści myśli. Na przykład Yukiyasu Kamitani przeprowadził prace eksperymentalne mające na celu "dekodowanie snów" z danych z funkcjonalnego rezonansu magnetycznego (fMRI). Doniesienia medialne przedstawiały tę pracę tak, jakby sny były po prostu rejestrowane przez śpiących uczestników eksperymentu (Akst 2013; Revell 2018). Ale w rzeczywistości potrzeba było 30-45 godzin wywiadu na uczestnika, aby sklasyfikować niewielką liczbę wymarzonych obiektów. To imponujące eksperymenty neurobiologiczne, ale nie jest to tylko "czytanie mózgu" w celu "rozszyfrowania snu". Wywiad jest interesującym uzupełnieniem zapisu sygnału mózgowego, ponieważ zajmuje się w szczególności werbalnymi ujawnieniami na temat doświadczenia stanów psychicznych.

Kiedy doniesiono, że Facebook lub Microsoft opracują urządzenie, które umożliwi użytkownikom obsługę komputerów za pomocą umysłu lub myśli (Forrest 2017; Solon 2017; Sulleyman 2018), jest to być może zbyt ekstrawaganckie twierdzenie. Podczas gdy wiele urządzeń konsumenckich jest sprzedawanych jako "neurotechnologia", jest mało prawdopodobne, że faktycznie działają one poprzez wykrywanie i rejestrowanie sygnałów mózgowych (Wexler and Thibault 2018) . O wiele bardziej prawdopodobne jest, że takie urządzenia będą reagować na aktywność elektryczną w mięśniach twarzy, w których sygnały są może 200 razy silniejsze niż te w mózgu i znacznie bliżej ustawione do elektrod urządzenia. Najprawdopodobniej robienie czegoś takiego jak pisanie za pomocą takiego urządzenia wykorzystuje mikro-ruchy wykonywane podczas uważnego myślenia o słowach i frazach. Mięśnie używane do wypowiadania tych słów są aktywowane tak, jakby przygotowywały się do ich wypowiedzenia, a zatem odpowiadają im w sposób, który można operacjonalizować w aplikacji do pisania. Rzeczywiście, jest to określony tryb działania urządzenia Google "AlterEgo" (Kapur et al. 2018; Whyte 2018).

Przesada jest kwestią etyczną, ponieważ może podważyć zaufanie do neurotechnologii na co najmniej dwa sposoby: niedostarczenie wyników poprzez fałszywe przedstawienie technologii i służenie wzbudzeniu nadmiernych nadziei i obaw. Opiera się to na wprowadzającym w błąd przedstawieniu sposobu działania urządzenia i jego perspektyw jako skutecznej technologii. Wiąże się to z etycznymi implikacjami w zakresie zgody użytkownika na korzystanie z urządzenia. Mogą istnieć różne stopnie oszustwa w pracy, biorąc pod uwagę tego rodzaju fałszywe przedstawienie, które może wpłynąć na sposób, w jaki powinniśmy rozważyć potencjalne wykorzystanie i wykorzystanie urządzeń, czy to przez uczestników eksperymentu, czy konsumentów.

Opierając się na przykładzie dekodowania snów, mamy powody, by sądzić, że obiektywny zapis sygnałów mózgowych jest niewystarczający jako opis stanu psychicznego właśnie dlatego, że nie ma wymiaru empirycznego. Myśli pojawiają się w wewnętrznym modelu świata z określonego punktu widzenia. Model ten nie może być bezpośrednio uogólniony z przedmiotu na temat w oparciu o obserwację sygnałów mózgowych. Można wywnioskować tylko konkretne wymiary tego modelu, ograniczone pod względem przewidywalności i dopiero po dużej ilości szkoleń w kontekstach rygorystycznych warunków badawczych. Obiektywna obietnica rejestrowania sygnałów mózgowych może być dokładnie tym, co odcina je od umysłu, co obejmuje subiektywną perspektywę.

Możliwość zbyt gorliwej redukcji umysłu do niektórych danych neuronowych pojawia się tutaj jako problem etyczny. Koncepcje "mentalne" mogą być dyskutowane bez odwoływania się do pojęć "neuronaukowych" (również na odwrót). To, w jaki sposób każdy z nich może odnosić się do naturalnych rodzajów, jest kwestią otwartą (Churchland 1989). Istnieje zatem wszechobecna kwestia interpretacji, o której należy pamiętać, ponieważ rozważa się wzajemne oddziaływanie między umysłem a mózgiem. Eksperyment myślowy "cerebroskopu" służy podkreśleniu tego.

Cerebroskop jest urządzeniem pojęciowym, które rejestruje całą aktywność wszystkich neuronów w mózgu w milisekundzie po milisekundzie. Przy tej całkowitej reprezentacji aktywności neuronalnej pytanie brzmi, czy mamy reprezentację umysłu. Steven Rose sugeruje, że nie – natura mózgu jako ewoluującej, plastycznej jednostki oznacza, że milisekunda po milisekundzie rozdzielczość aktywności neuronalnej nie jest zrozumiała bez całkowitej mapy genezy tych aktywnych neuronów i ich połączeń:

... Aby cerebroskop był w stanie zinterpretować określony wzorzec aktywności neuronalnej jako reprezentujący moje doświadczenie widzenia czerwonego autobusu, potrzebuje czegoś więcej niż tylko zarejestrowania aktywności wszystkich tych neuronów w tym momencie, w ciągu kilku sekund rozpoznania i działania. Musi być połączony z moim mózgiem i ciałem od poczęcia – a przynajmniej od urodzenia, aby móc zapisać całą moją neuronalną i hormonalną historię życia. Wtedy i tylko wtedy może być możliwe rozszyfrowanie informacji neuronowej. (Choudhury i Slaby 2016, s. 62 i nast.)

Powinniśmy być ostrożni w rozważaniu tego rodzaju kwestii, jeśli chodzi o myślenie o czytaniu w myślach. Można by pomyśleć, że umysł jest podobny do przestrzeni, przez którą przypuszczalny czytelnik umysłu może przejść i zbadać, co można w niej znaleźć. Ale punkt widzenia Stevena Rose'a sugeruje bardziej usytuowany rodzaj umysłu, polegający zarówno na jego genezie, jak i stanie w pewnym momencie. Chodzi o to, że nawet gdyby ktoś w jakiś sposób postrzegał myśl drugiego, mógłby być rozumiany tylko jako subiektywna myśl, a nie jako obiektywna myśl innej myśli.

W związku z tym Mecacci i Haselager (2019) omawiają niektóre filozoficzne idee związane z prywatnością "mentalności". Opisują perspektywę A. J. Ayera dotyczącą stanów psychicznych, priorytetowo traktując prywatność umysłu i jego zawartości. Taki pogląd wydaje się również wykluczać czytanie w myślach, ponieważ wymagają określonej perspektywy, co oznacza, że pojawiają się nie jako obiekty w przestrzeni mentalnej potencjalnie otwarte na widok, ale jako prywatne treści określonego umysłu.

Fałszywe przedstawianie technologii i redukcjonizm wydają się być wymiarami o znaczeniu etycznym samym w sobie. Ale trochę więcej analizy każdego z nich pokazuje, że prowadzą one do szerszego zestawu problemów etycznych w neurotechnologii. Tam, gdzie prywatność psychiczna jest zagrożona, może ucierpieć wolność poznawcza. "Wolność poznawcza" obejmuje ideę, że należy być wolnym od manipulacji mózgiem, aby myśleć własnymi myślami (Sententia 2006). Koncepcja ta często pojawia się w kontekście neurointerwencji w zakresie prawa lub psychiatrii lub neurowzmocnienia (Boire 2001). W tym przypadku jest to najbardziej istotne w związku z potencjalną utratą prywatności psychicznej.

Tam, gdzie prywatność psychiczna jest niepewna, nie jest jasne, czy ktoś może czuć się wolny, aby myśleć o własnych myślach. Tam, gdzie pomiary aktywności mózgu mogą być dokonywane (słusznie lub niesłusznie) w celu ujawnienia treści mentalnych, sama neurofizjologia może być postrzegana jako potencjalny informator o samej myśli. Oznaczałoby to wykorzenienie bardzo szeroko przyjętych pojęć o wyjątkowym i uprzywilejowanym dostępie danej osoby do własnej myśli. Gdyby zapalony pamiętnikarz uświadomił sobie, że jego dziennik może być czytany przez kogoś innego, mógłby zacząć pisać mniej szczere lub odkrywcze wpisy. Gdyby ktokolwiek był pewien, że pomiary jego mózgu mogą ujawnić jakąkolwiek z jego mentalnych treści, jak mógłby powstrzymać się od szczerych i odkrywczych myśli? Oznaczałoby to deformację normalnych sposobów myślenia, w raczej niepokojący sposób.

Z tą niepokojącą możliwością zagrożona jest również sama idea samopoczęcia. Tam, gdzie obawy o prywatność psychiczną prowadzą do zahamowania wolności poznawczej, nie byłoby pewne, że ktoś może czuć się wolny do refleksji nad wartościami, decyzjami lub propozycjami bez groźby konsekwencji. Rozważanie wątpliwych etycznie myśli, nawet jeśli rozważa się je tylko po to, aby opracować sposoby ich obalenia, może stać się niebezpieczne, gdy treść myśli może zostać odczytana z aktywności mózgu. W obliczu technologii, która wydaje się czytać w myślach, wydaje się, że ryzyko etyczne jest stwarzane przez tę technologię, reprezentując umysł jako otwarty na widok.

Częścią tego, co to znaczy mieć umysł i w ogóle być agentem, zdolnym do działania zgodnie z uzasadnionymi opiniami, obejmuje refleksję. Może to oznaczać, że chcemy rozważyć rzeczy, których byśmy nie zrobili, przejść przez opcje, którymi możemy gardzić lub w inny sposób chcieć odrzucić. Gdybyśmy znaleźli się w kontekście, w którym treści mentalne byłyby uważane za publiczne, ta refleksyjna praktyka mogłaby ucierpieć. Zwłaszcza, gdy takie dane mentalne mogą być uważane za bardziej prawdziwą, nieupiększoną relację niż ta, którą oferuje mówione świadectwo. Może to opierać się na zasadzie będącej przedmiotem przykładu "wiedzy o winie" z góry. Mrożący wpływ na samo myślenie może się zmaterializować dzięki możliwości bardzo intymnego nadzoru poprzez rejestrację mózgu.

Mediacja myśli, idei, rozważań w działania jest częścią autonomicznej sprawczości i autoprezentacji. Potencjał pośredniego reprezentowania takich rzeczy w swoim działaniu jest częścią tego, co czyni te działania własnymi. Tam, gdzie można sobie wyobrazić, że urządzenie do czytania w myślach "przecina się" przez mediację w celu uzyskania bezpośredniego dostępu do treści mentalnych, niekoniecznie przyczyniłoby się to do dokładniejszego przedstawienia osoby. Nie może też gwarantować lepszego wyjaśnienia ich działań niż wyjaśnienie, które mogliby dobrowolnie przedstawić. Sercem tego jest prywatność aktywności umysłowej i przestrzeń, która pozwala nam się zastanawiać. Nita Farahany nazwała to "prawem do wolności poznawczej" (Farahany 2018).

Prywatność obrad jest bardzo ważna w zapewnianiu przestrzeni dla autonomii i treści dla sprawczości. Jak już wspomniano, wewnętrzne życie psychiczne można scharakteryzować w większym lub mniejszym stopniu poprzez sygnały behawioralne. Różnica między niechętnym wykonywaniem zadania, a entuzjastycznym przyjęciem tego samego, jest często dość oczywista. Ale pośrednia ocena czyjegoś stanu umysłu w ich działaniach jest znaną, omylną i dobrze ugruntowaną praktyką interpersonalną. Pomysł, że obiektywne dane mogą być wykorzystane do bezpośredniego scharakteryzowania postawy, raz na zawsze, służy podważeniu roli sprawczości. Decyzja o działaniu reprezentuje umiarkowanie impulsów, powodów, pragnień. Gdyby urządzenie do czytania w myślach zostało użyte, z pewnością stanowiłoby roszczenie do rzeczywistego stanu umysłu danej osoby. Ale może to służyć bagatelizowaniu działania tej osoby jako bardziej złożonego niż tylko wynik procesu neuronalnego.

Myśląc o przykładzie cerebroskopu, jest to podobne do omawianej tam dekontekstualizacji zapisów neuronowych. Natura reprezentowanych sygnałów może nie mieć większego sensu poza historią biograficzną. Mogą w ten sposób fałszywie przedstawiać nagraną osobę. Fakt, że obszerne świadectwa odegrały tak dużą rolę w eksperymencie czytania snów, wydaje się potwierdzać ten wniosek myślowo-eksperymentalny.

Mówiąc szerzej, ważne jest, aby omówić cel, do którego służą urządzenia do czytania w myślach. Na przykład noszenie gipsu na złamanej ręce pokazuje pewne wymiary stanu fizjologicznego danej osoby. Jest to jednak mało niepokojące, ponieważ nikt nie może zyskać na chęci "kradzieży" takich informacji. Ale problematyczne jest potencjalne niewłaściwe wykorzystanie ludzkich myśli, wyborów lub preferencji wywnioskowanych z neurotechnologii. Nawet jeśli myśli nie są dostępne dla technologii, ale możliwe jest, że tak się je przyjmuje, pojawiają się problemy etyczne. Wraz z komercjalizacją neurotechnologii jako technologii "czytania w myślach" potencjał ten mnoży się, ponieważ technologia może być wdrażana tam, gdzie nie ma szczególnej potrzeby. Pozostawia to otwarte pytanie o to, do jakich celów technologia może być wykorzystywana i przez kogo. Potencjalna różnorodność technologii, aktorów, celów i stawek tworzy złożony obraz.

Społeczno-polityczne konsekwencje powszechnego zapisu neuronowego mogą być głębokie. Na podstawie tych nagrań można dokonać szczegółowych prognoz dotyczących prywatnych, intymnych aspektów osoby. Dla tych, którzy mają do nich dostęp, dane te będą cennym zasobem. Zamierzony interfejs mózg-komputer Facebooka, umożliwiający bezproblemowe interfejsy użytkownika z ich systemami, nie tylko rejestrowałby i przetwarzał sygnały mózgowe, ale także kojarzył dane z nich pochodzące ze szczegółową aktywnością w mediach społecznościowych (Robertson 2019) . Stanowiłoby to cenny zasób, zapewniający bogate powiązania między jawnymi działaniami a dotychczas ukrytą aktywnością mózgu. Ten rodzaj szczegółowego neuroprofilowania będzie prawdopodobnie uważany za tak nieupiększony i intymny wgląd w osobę, jak to tylko możliwe do zdobycia. W takim stopniu, w jakim jest to dokładne, nowe wymiary rozumienia ludzi poprzez ich mózgi mogą zostać otwarte. Podobnie jak w przypadku skandali związanych z mikrotargetowaniem politycznym z udziałem Facebooka i Cambridge Analytica, dane te mogą również umożliwić osobistą manipulację, a także szkody społeczne i polityczne (Cadwalladr i Graham-Harrison 2018) .

Na poziomie osobistym bazy danych, które łączą nie tylko dane behawioralne, ale także dane dotyczące mózgu, stanowią poważne zagrożenie dla prywatności i szerszych wymiarów związanych z godnością. Rodzaje profilowania, które umożliwiają, groziłyby marginalizacją jednostek i grup, a jednocześnie podważyłyby solidarność między różnymi grupami. Stało się to w okresie poprzedzającym Brexit, w oparciu o tajne profilowanie psychometryczne i miało trwałe szkody społeczne (Collins i in. 2019; Del Vicario i in. 2017; Howard i Kollanyi 2016). Kierowanie informacji do konkretnych osób lub grup w oparciu o dane neuronowe stanowiłoby nowy front w marketingu opartym na danych lub kampaniach politycznych, umożliwiając nowe, bardziej złowrogie i być może trudniejsze do odparcia formy manipulacji (Ienca et al. 2018; Kellmeyer 2018).

Przykłady te koncentrują się na tym, w jaki sposób można wykorzystać informacje do uzyskania określonych efektów. Tam, gdzie neuroprofilowanie zbiega się z postępem technologicznym, potencjalnym problemem jest również bezpośrednia manipulacja neuronowa. Wśród rodzajów neurotechnologii już dostępnych do badań i do celów konsumenckich są te, które wykorzystują dane mózgu do kontrolowania oprogramowania i sprzętu, te, które wyświetlają dane do celów użytkownika jako neurofeedback oraz te, które starają się modyfikować samą aktywność mózgu. Te urządzenia do neurostymulacji lub neuromodulacji wykorzystują dane pochodzące z mózgu do modulowania późniejszej aktywności mózgu, regulując ją zgodnie z pewnym pożądanym stanem (Steinert and Friedrich 2019) . Jest to dość wyraźne wyzwanie dla autonomii. Poza etycznie regulowanym kontekstem, takim jak uniwersyteckie laboratorium badawcze, nie należy tego lekceważyć. Siły rynkowe nie są w oczywisty sposób wystarczające do zapewnienia odpowiedzialnego marketingu i korzystania z takich potencjalnie potężnych urządzeń.

Omawiane tutaj obawy nie opierają się na czytaniu w myślach per se, ale raczej na skutkach, które mogą wystąpić w kontekście powszechnego stosowania neurotechnologii. Jednak poza kontekstem rynkowym, w dziedzinie trwających badań, co najmniej jeden rodzaj czytania w myślach może wydawać się technicznie możliwy przynajmniej w ograniczonym sensie. Po przeanalizowaniu tego przypadku będziemy dobrze przygotowani do zajęcia stanowiska w sprawie obaw etycznych, które pojawiły się w różnych zastosowaniach, od tych, w których czytanie w myślach nie jest głównym efektem, do tych, w których byłoby to najbardziej prawdopodobne.

Neuroproteza mowy jako urządzenie do czytania w myślach

Pierwsze wrażenie może być takie, że "myśl", w zakresie, w jakim myśl może być "w słowach", jest zasadniczo językowa. Podczas gdy każda myśl niekoniecznie jest czymś werbalnym: obrazy, dźwięki, zapachy itp. Można również przywołać na myśl, znaczące wymiary myśli, takie jak monolog wewnętrzny lub mowa wewnętrzna, są łatwo wyobrażalne jako myślenie słowami (Perrone-Bertolotti et al. 2014) .

Nie brzmi to tak daleko od niektórych wyjaśnień ludzkiej świadomości dostarczonych przez Dennetta (1993). Z jego powodu ulepszenia zdolności i instynktów widoczne u wielu gatunków zwierząt są przynajmniej częściowo realizowane u ludzi poprzez językowo zrodzone "mikronawyki myślowe". Dla Dennetta to właśnie zamienia mózg w umysł. Jeśli język odgrywa tego rodzaju role, być może nawet konstytutywny dla umysłów, jakie znamy, jak zdaje się sugerować Dennett, "wewnętrzna", "cicha" lub "ukryta" mowa może być bardzo bliska treściom mentalnym. Co więcej, tego rodzaju nieuzewnętrznione sygnały mowy mogą być rejestrowane z mózgu. W nagraniu ukrytej mowy istnieje pewna prima facie możliwość czytania myśli za pośrednictwem technologii.

Podczas gdy w mowie naturalnej struny głosowe wytwarzają wibrację, która jest modyfikowana przez przewód głosowy w celu utworzenia słowa (lub fonemu lub sylaby), neuronowy procesor mowy przyjmuje jako wejściowe sygnały neuronowe, stosuje funkcję modyfikującą i tworzy nowy sygnał jako wyjście. Takie systemy rejestrują sygnały neuronowe związane z żywo wyobrażoną, ale niewerbalną mową i tłumaczą te sygnały na zrozumiałą mowę bez potrzeby aktywacji nerwów obwodowych lub mięśni. Obecnie zbadano kilka strategii w celu zdefiniowania, jaka jest najlepsza reprezentacja mowy, która ma być dekodowana w celu ukierunkowania na ten typ interfejsu mowy.

Jedną ze strategii jest sklasyfikowanie aktywności neuronalnej na skończoną liczbę wyborów. Kilka badań wykazało możliwość dekodowania dyskretnych jednostek mowy, takich jak fonemy (Brumberg et al. 2011; Ikeda i in. 2014; Pei et al. 2011) lub słowa (Martin et al. 2016), podczas tajnej mowy.

Jeśli każdy stan psychiczny koreluje z mechanizmem neuronalnym lub jest przez niego realizowany, wówczas odczytywanie sygnałów z mózgu powinno umożliwiać dostęp do stanów psychicznych, w tym ukrytych stanów mowy. Ukryta mowa wydaje się treściwym medium, które naprawdę można rozszyfrować w scenariuszu czytania w myślach. Jeśli chodzi o neurotechnologię klasy badawczej, w kontekście kontrolowanych warunków, urządzenia wyzwalane przez ukrytą aktywność mowy mogą być wyzwalane przez mentalizowaną mowę nieprzeznaczoną do eksternalizacji (Bocquelet et al. 2016) . Biorąc pod uwagę dalsze techniki dekodowania, zwłaszcza użycie sztucznych sieci neuronowych, można to dodatkowo spotęgować, ponieważ aktywność neuronalna związana z rodzajami ukrytej aktywności mowy może być postrzegana w sposób, który omija intencje użytkownika.

Budowanie oprogramowania, które bezpośrednio mapuje aktywność neuronalną na dowolną reprezentację mowy, pozostaje jednak trudne ze względu na brak jakichkolwiek mierzalnych wyników behawioralnych podczas ukrytej mowy. Alternatywne rozwiązanie opiera się na fakcie, że wyobrażona, ukryta mowa ma cechy takie jak te związane z neuronalnymi korelatami jawnej mowy (Bocquelet et al. 2016; Chakrabarti i in. 2015). W związku z tym możliwe staje się zbudowanie modelu dekodowania z jawnego warunku mowy, a następnie zastosowanie tego dekodera w ukrytym stanie mowy w celu zrekonstruowania akustycznych cech mowy (Martin et al. 2014) . Badania pokazują możliwość dekodowania podstawowych cech mowy z sygnałów nerwowych podczas ukrytej mowy, ale także podkreślają trudność w dokładnym wyodrębnianiu wzorców. To pokazuje, jak daleko jesteśmy obecnie od opracowania urządzenia do czytania w myślach science-fiction.

Zasadniczo więcej sygnałów mózgowych niż zamierzano można zarejestrować w opisanym właśnie systemie. Z każdego zarejestrowanego sygnału cechy istotne muszą być wyodrębnione w taki sposób, aby tworzyły odpowiednie źródło dla funkcji modyfikującej. Sposoby określania cech sygnału źródłowego istotnego dla mowy mogą obejmować wykorzystanie uczenia maszynowego, przy użyciu funkcji prawdopodobieństwa dla każdego fonemu w danym języku (Amodei et al. 2016; Hinton i in. 2012). Tego rodzaju podejście rozpoznałoby sygnały neuronowe istotne dla języka w kategoriach mapowania między sygnałem neuronowym a prawdopodobnymi korelacjami fonetycznymi.

Przywołując relacje między myślą a mową, wydaje się możliwe, że zbyt czułe urządzenie mowy, oparte na ukrytej mowie, może uzewnętrznić niektóre części wewnętrznego monologu danej osoby. Przynajmniej w pewnym sensie może to być przypadek czytania w myślach, być może nie tak jak powszechnie reprezentowany w science fiction, ale mimo to przykład wewnętrznego monologu uzewnętrznionego za pomocą środków technicznych. Jedną z głównych trudności koncepcyjnych, technologicznych i etycznych jest tutaj odróżnienie ukrytej mowy, która powinna być uzewnętrzniona, od tej, która nie powinna.

Co więcej, dzięki włączeniu uczenia maszynowego modele językowe mogą być zintegrowane tak, aby fonemy w języku mogły być przewidywane na podstawie modelu. Oznaczałoby to, że oprócz sygnałów mózgowych, model językowy dodaje również wymiar predykcyjny do systemu protezy mowy. Zasadniczo system mógłby "odgadnąć" słowa, które mają zostać wypowiedziane przed zrealizowaniem biosygnałów, które pokrywałyby się z sygnałem fonetycznym. Przewidywanie może być wykonane dobrze, ale ponieważ opiera się na sygnałach neuronowych i przewidywaniach opartych na modelach, mimo to występuje przy braku decyzji o głośnym mówieniu. Może to wyglądać tak, jakby system mówił w imieniu użytkownika, być może podejmując delegowane działania bez wyraźnej zgody (Rainey 2018) .

W każdym przypadku przewidywania mowy może pojawić się problem, że system może uzewnętrznić coś, co w ogóle nie jest zamierzone przez użytkownika, nie jako myśl lub mowę. Nawet w przypadku istnienia solidnego systemu wycofywania istniałoby ryzyko, że błędna mowa zostanie przyjęta jako mowa użytkownika. Może to stanowić wyzwanie dla ich autorytetu w pierwszej osobie.

Tak więc, jeśli chodzi o mowę wyobrażoną, istnieje oczywiste ryzyko w zasadzie. Natura nagrywania i dekodowania, wywoływana przez ukrytą mowę, może w rzeczywistości spowodować, że więcej mowy zostanie uzewnętrznionych niż oczekiwano lub oczekiwano. Może to wynikać ze sposobu, w jaki wyzwalanie działa w oparciu o sygnały mózgowe i przewidywania z modeli językowych, przed świadomymi decyzjami o działaniu (Glannon 2016, s. 11). Rodzi to pewną perspektywę czytania myśli, opartej na ukrytej mowie mimowolnie przechwyconej przez zapis sygnału mózgowego.

Jak należy traktować te kwestie etyczne?

Kontrola użytkownika nad neurotechnologiami wydaje się mieć ogromne znaczenie w ograniczaniu potencjalnych zagrożeń dla prywatności, autonomii, sprawczości i autoprezentacji. Drobnoziarnista zdolność użytkownika do wyboru, co dokładnie jest wytwarzane przez takie urządzenia, byłaby dobrym początkiem. Poza tym należy wbudować pewną zdolność do wycofywania działań za pośrednictwem urządzeń sterowanych przez mózg. Ta "kontrola weta" (Steinert i in. 2018) pozwoliłaby na praktyczne rozróżnienie między ujawnieniami związanymi z nagrywaniem mózgu, które należy uznać za celowe lub nie. Można to najlepiej zilustrować w odniesieniu do urządzenia mowy. Jeśli chodzi o neuroprotezę mowy, działanie mowy i wytwarzanie mimowolnych lub innych proto-mowy elementów (np. myślenie werbalne) powinno być ściśle kontrolowane przez użytkownika. Mowa, którą użytkownik zamierza nadawać werbalnie, powinna być wyraźnie odróżnialna od mowy wewnętrznej, której użytkownik nie chce nadawać. Użytkownik powinien mieć ścisłą kontrolę nad tym rozróżnieniem.

Co więcej, należy wprowadzić systemy regulacyjne, aby przewidywać problemy specyficzne dla neurotechnologii. Obejmą one nie tylko sposób prezentacji neurotechnologii, ale także sposób ich działania i rodzaje zastosowań, z których powinny być ograniczone. Na przykład regulacje dotyczące urządzeń medycznych i przepisy dotyczące ochrony danych są prawdopodobnie niewystarczające, jeśli chodzi o neurotechnologie konsumenckie (Allison i in. 2007; McStay i Urquhart 2019). Urządzenia tego rodzaju nie są medyczne, ale mogą działać na względnych dla zdrowia funkcjach neuronowych oraz rejestrować i przesyłać dane dotyczące zdrowia. Twórcy technologii mózgowych powinni, w ramach rozwoju swoich produktów lub aplikacji, utrzymywać aktywne kontakty z decydentami, aby można było sformułować odpowiednie regulacje.

Aby to zilustrować, jest prawdopodobne, że prywatne firmy będą napędzać rozwój neurotechnologii, nawet w aplikacjach wspomagających. Do pewnego stopnia niektórzy użytkownicy będą polegać na tych prywatnych firmach, aby móc żyć pełniejszym życiem, podczas gdy inni będą korzystać z urządzeń bardziej rekreacyjnie. Sposób, w jaki można dokonać oceny tego rodzaju rozróżnienia w działaniu, między tymi, którzy nie mogą działać inaczej, jak tylko dla urządzenia, a tymi, którzy tylko decydują się tak działać, stanowi nową kwestię. Konieczne będzie kształtowanie polityki wokół wprowadzania urządzeń, które wprowadzają to rozróżnienie, podkreślone przez analizę etyczną. Byłby to użyteczny i etycznie wrażliwy sposób przewidywania problemów w najbliższej przyszłości w związku z rozwojem technologii.

Jaka dalsza analiza jest potrzebna?

Technologia rutynowego, dokładnego rejestrowania wszystkich sygnałów mózgowych wymaganych do zrekonstruowania czegoś takiego jak strumień świadomości jeszcze nie istnieje. Niemniej jednak neurotechnologia jest rozwijającą się dziedziną, a techniki, materiały, technologie i teorie są udoskonalane w szybkim tempie. Przewidywanie przyszłych wydarzeń powinno stać się punktami centralnymi etyki badań na żywo w neuronauce i powiązanych laboratoriach, aby uniknąć "błędu opóźnienia", jak omówiono w Mecacci and Haselager (2019) .

Biorąc pod uwagę opisane tutaj możliwości o wysokiej stawce, możemy dobrze zrobić w rozwoju neurotechnologii, aby rozważyć korzyści, jakie przyniosą proponowane aplikacje. Jeśli możemy odpowiedzieć na pytanie, dlaczego chcemy tej neurotechnologii teraz, możemy mieć dobry powód, aby kontynuować. Jeśli nie możemy, możemy mieć dobry powód, aby się zatrzymać. Należy zauważyć, że "my" obejmiemy tutaj różne podmioty. Zadawanie pytań i odpowiadanie na nie będzie prawdopodobnie bardzo szeroką dyskusją, opartą na różnych zasobach eksperckich, społecznych, politycznych, prawnych i etycznych. To, że taki dyskurs jest tak złożony, powinno samo w sobie wskazywać na palącą naturę pytań dotyczących postępu neurotechnologicznego.

W szczególności w odniesieniu do omawianego tutaj przypadku neuroprotezy mowy czytającej myśli i innych podobnych neurotechnologii wspomagających, na pytanie dlaczego można odpowiedzieć najwyraźniej. Tam, gdzie niepełnosprawność lub niekorzystna sytuacja mogą być dobrze złagodzone za pomocą technologii, istnieją silne argumenty za jej rozwojem. Kwestie etyczne, które się pojawiają, skupiają się wokół koncepcji kontroli, aby chronić wolę użytkowników technologii. Obawy te można złagodzić poprzez ograniczenia wrażliwości w systemie i kontrolę weta, dzięki której użytkownik może całkowicie zatrzymać syntetyczną mowę emanującą z jego urządzenia mowy. Analiza koncepcyjna charakteru odpowiedzialności powinna być wykorzystywana do informowania o rozwoju technologicznym w zakresie aktywacji, kontroli i weta urządzeń, aby zapewnić, że dobrowolność pozostaje centralna w korzystaniu z urządzeń. Odnoszą się one do obaw skoncentrowanych na urządzeniach, które mogą się pojawić. Patrząc z szerszej perspektywy, sposób, w jaki wyniki z urządzeń są odbierane przez odbiorców, są traktowane w prawie i polityce oraz uwzględniane w perspektywie społecznej, wymaga pewnego zastanowienia.

W odniesieniu do ogólnej kontroli użytkownika nad neurotechnologiami, programiści powinni zapewnić, że każdy BCI zapewnia użytkownikowi jak największą kontrolę, z naciskiem na wiarygodne rozróżnienie między celowym wyzwalaniem a aktywnością neuronalną jedynie na tyle, aby spowodować aktywację urządzenia. Tego rodzaju wymiary etyczne, nawet bardziej jednoznaczny przypadek neurotechnologii dla cnotliwych celów, ilustrują prawdopodobne obszary, w których mogą pojawić się późniejsze problemy. Konsekwencje prawne wyrobów, które nie znajdują się pod kontrolą użytkowników w sposób wystarczający i możliwy do udowodnienia, mogą powstać, gdy kwestie etyczne związane z odpowiedzialnością za działania za pośrednictwem technologii nie są traktowane w miarę rozwoju technologii. Ponadto w przypadku, gdy użytkownik polega na swoim urządzeniu, istotne będzie, aby w jakiś sposób wziąć to pod uwagę pod względem funkcjonowania urządzenia.

Kolejnym obszarem, który prawdopodobnie będzie wymagał bardziej etycznej i prawnej analizy, będą dane. Neurotechnologie będą działać w oparciu o wiele danych pochodzących z mózgu. Jest to materiał wrażliwy, z którego można wywnioskować szereg informacji zdrowotnych i innych danych osobowych. Jednak relacje między danymi a osobami wymagają większej jasności (Rainey i in. 2019). W pewnym sensie jesteśmy naszymi danymi, ale w znacznym stopniu nie jesteśmy, będąc jedynie reprezentowani przez nie w określony sposób, w odniesieniu do celów, dla których zostały zebrane, środków użytych do tego gromadzenia, sposobu przechowywania i tak dalej. Ale to, jak to działa, wymaga debaty, co ilustrują kwestie związane z wykorzystaniem Big Data (Bollier i Firestone 2010; Boyd i Crawford 2012).

W każdym razie nie powinniśmy kontynuować rozwoju neurotechnologii, który wywoła pytania o dane, a następnie próbować je rozwiązać. Zbyt wiele potencjalnych zagrożeń różnego rodzaju wiązałoby się z takim podejściem. Zwłaszcza tam, gdzie bazy danych zawierające dane pochodzące z mózgu są już tworzone, samo istnienie takich zasobów jest problemem, w którym nie jest gotowa wyraźna konceptualizacja dla ich charakteru. Prywatność danych staje się przedmiotem wspólnego zainteresowania (Véliz 2019). Wraz z postępem nauki to dzięki interdyscyplinarnemu dyskursowi, wysoce refleksyjnym i inkluzywnym dyskusjom można aktualizować politykę, normy prawne i społeczne. Technologie te stanowią wyzwania, na które powinniśmy reagować w konstruktywny sposób, aby chronić zarówno badania, jak i obywateli.