Komputer, który zwariował

Karol Żebruń | Redaktor serwisu benchmark.pl
18 komentarzy Dyskutuj z nami

DISCERN to sieć neuronowa, którą naukowcom udało się zmusić do zachowania podobnego jak u schizofreników. Sterowany przez nią komputer między innymi twierdził, że odpowiada za atak bombowy.

Proteusz czy Skynet to dobrze znane nam z filmów nazwy niektórych komputerów, które „delikatnie mówiąc” zwariowały i zaczęły działać w nieracjonalny dla człowieka sposób. I choć o naszego laptopa możemy być spokojni, to okazuje się, że istotnie można sterujące komputerami oprogramowanie doprowadzić do stanu podobnego do schizofrenii.

Warto przeczytać:
Co szkodzi na mózg – komputer czy szkoła?
Komputer czytający w naszych myślach

Dla przypomnienia, schizofrenia jest to rodzaj choroby naszego umysłu, która wiąże się z problemami w przyswajaniu informacji w prawidłowy sposób. Mózg schizofrenika nie potrafi ich odpowiednio kategoryzować i nadawać im odpowiedniej wagi. W efekcie nieprawidłowe interpretowanie nabytych doświadczeń może wywołać stany depresyjne i lękowe. Mówiąc inaczej, schizofrenik przestaje staje się ofiarą urojeń nie mających nic wspólnego z rzeczywistością.

Eksperyment przeprowadzony przez pracowników Uniwersytetu w Austin w Teksasie oraz uczelni z Yale wykorzystał sieć neuronową DISCERN. W pierwszej fazie eksperymentu uczono ją różnych historii, pozwalając zapamiętywać w sposób przypominający działanie mózgu zdrowego człowieka. DISCERN uczył się znaczenia poszczególnych fragmentów opowiadań i ich związków między sobą.


W.O.P.R. w Grach Wojennych nie był może schizofrenikiem, ale podobnie jak on
miał problem z odróżnieniem rzeczywistości od fantazji.

Następnie „uszkodzono” algorytm odpowiadający za działanie sieci neuronowej, tak by odzwierciedlić działanie mózgu schizofrenika. DISCERN w takim stanie nadal przyswajał wiedzę, ale w przyśpieszonym tempie. Na dodatek utrudniono mu zapominanie informacji, które nie były istotne. W efekcie po pewnym czasie sieć neuronowa zaczęła zachowywać się tak jakby zwariowała.

Odpowiedzi DISCERN były bardzo ciekawe, ale zarazem niepokojące. Sieć twierdziła między innymi, że odpowiada za lotniczy atak bombowy, miała także problem z określeniem swojego ja - mówiła o sobie w trzeciej osobie.


Zbyt szybkie przyswajanie danych czasem może być zgubne

Dzięki opisanym powyżej eksperymentom lekarze będą mogli lepiej zrozumieć mechanizm schizofrenii i podobnych jej schorzeń. Wyniki eksperymentów są także ważne dla inżynierów pracujących nad sztuczną inteligencją, która wykorzystuje podobne jak u człowieka mechanizmy poznawcze.

Jak widać, próby odzwierciedlenia działania ludzkiego mózgu w komputerach prowadzą do przejęcia nie tylko dobrych cech, ale czasem także słabości, które mogą w niesprzyjających warunkach być dla nas niebezpieczne.
 

Źródło: scienceblog

Polecamy artykuły:  
 
Tablet czy netbook - co jest lepsze? AMD Phenom II X4 980 Black Edition - cztery rdzenie w dobrej cenie EFI vs BIOS - najważniejsze różnice

 

Komentarze

18
Zaloguj się, aby skomentować
avatar
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    Szymon331
    0
    Chętnie bym uczestniczył na żywo w takim eksperymencie.
  • avatar
    Konto usunięte
    0
    W.O.P.R - Wodne Ochotnicze Pogotowie Ratunkowe
  • avatar
    Konto usunięte
    0
    AMD w komputerze i wszystko JASNE!
  • avatar
    krzysiek
    0
    a tak swoją drogą bo nie jestem na czasie - „jakieś coś” już przeszło test turinga?
    Czy w obawie o wynik zaprzestano tego typu eksperymentów ? :D
  • avatar
    Warmonger
    0
    Sieci neuronowe powracają do korzeni? I faktycznie symulują działanie mózgu? Bardzo ciekawy artykuł, nie sądziłem, że sztuczna inteligencja tak bardzo się rozwinęła w ostatnim czasie.
  • avatar
    Konto usunięte
    0
    Kto oglądał autostopem przez galaktyke??
    Będziemy mieli kompy z depresją...
  • avatar
    XeonX
    0
    "schizofrenik przestaje staje się" powinno być "schizofrenik staję się"
  • avatar
    Vyzygota
    0
    Sieci neuronowe oparte na procesorach x86. W ten sposób nigdy nie osiągniemy maszyny świadomej.
  • avatar
    xfire25
    0
    Od dawna wiedziałem że ta cała wiedza jaką nam wpaja się w szkołach może doprowadzić do schizy :]