8. ROZPOWSZECHNIENI AUTONOMICZNI AGENCI ZOSTANĄ FORMĄ SKYNET

Istnieją wysoce rozproszone przedsiębiorstwa z szeregiem dobrych i złych podmiotów. Anonimowa, rozproszona grupa ochotników, składa się z korporacyjnych sabotażystów, demaskatorów i strażników. Dzięki blockchainowi Anonimowy mógł gromadzić źródła bitcoinów i przechowywać te fundusze w portfelu. Powiedzmy, że grupa francuskich akcjonariuszy chciałaby przekazać te pieniądze kilku zabójcom, którzy wytropiliby i zabili niezliczonych terrorystów odpowiedział nych za masakrę w Paryżu. Potrzebowaliby tysięcy sygnatariuszy, aby osiągnąć konsensus i uwolnić fundusze. W tym scenariuszu, kto prawnie kontroluje te fundusze? Kto jest odpowiedzialny za wynik tej transakcji? Jeśli masz jeden dziesięciotysięczny głos, jaka jest twoja odpowiedzialność prawna? Jeśli automaty są zaprogramowane do zamawiania najbardziej zyskownych produktów, czy odkryją dostawcę nielegalnych towarów lub narkotyków? (Hej, maszyna do cukierków sprzedaje Ecstasy!) Jak prawo powinno obsługiwać autonomiczny pojazd, który przypadkowo zabija człowieka? W przypadku magazynu Wired dwóch hakerów pokazało, jak porwać systemy kontroli Jeepa Cherokee na autostradzie. Chrysler odpowiedział, przywołując 1,4 miliona pojazdów oraz niepokojących kierowców, producentów i decydentów. Czy terroryści mogliby dowiedzieć się, jak włamać się do inteligentnych urządzeń, aby wykonali niechciane działania ze spustoszeniem w konsekwencji ? Istnieją inne wyzwania związane z rozproszonymi modelami przedsiębiorstwa. Jak społeczeństwo rządzi tymi bytami? Jak właściciele mogą zachować najwyższą kontrolę? Jak zapobiegamy wrogim przejęciom bezosobowych firm? Załóżmy, że posiadamy zdecentralizowaną firmę hostingową, w której każdy z serwerów ma wpływ na zarządzanie firmą. Haker lub złośliwe oprogramowanie może udawać milion serwerów i głosować za zgodnymi z prawem serwerami w sieci. Kiedy dochodzi do takich przejęć tradycyjnych firm, wyniki mogą się różnić. W przypadku DAE wyniki najprawdopodobniej będą katastrofalne. Gdy ten złośliwy podmiot kontroluje naszą rozproszoną firmę hostingową, może się wypłacić. Lub może uwolnić prywatne dane z innych serwerów lub przetrzymywać zakładników danych, dopóki my, ludzcy właściciele, nie zapłacimy okupu. Gdy maszyny będą miały inteligencję i zdolność uczenia się, jak szybko to zrobią stają się autonomiczne? Czy na przykład wojskowe drony i roboty zdecydują się na zwrócenie się przeciwko cywilom? Według naukowców z AI jesteśmy tylko lata, a nie dekady, od realizacji takiej broni. W lipcu 2015 r. Duża grupa naukowców i badaczy, w tym Stephen Hawking, Elon Musk i Steve Woźniak, wydała list otwarty wzywający do zakazu opracowywania autonomicznej broni ofensywnej poza znaczącą kontrolą człowieka. „Koszmarny nagłówek dla mnie brzmi:„ 100 000 banków atakujących lodówki

Ameryka ”- powiedział Vint Cerf, powszechnie uważany za ojca Internetu. „To wymaga poważnego myślenia nie tylko o podstawowych technologiach bezpieczeństwa i prywatności, ale także o tym, jak konfigurować i aktualizować urządzenia na dużą skalę” – dodał, zauważając, że nikt nie chce spędzić całego weekendu na wpisywaniu adresów IP dla każdego urządzenie gospodarstwa domowego. Nie zalecamy szerokiej regulacji DAE i Internetu Rzeczy ani zatwierdzeń regulacyjnych. Zalecamy, aby menedżerowie i przedsiębiorcy opracowujący aplikacje identyfikowali wszelkie znaczące skutki publiczne – dobre, złe lub neutralne – oraz modyfikowali kod źródłowy i projekty. Uważamy, że powinni skonsultować się z osobami, na które ich twórczość prawdopodobnie ma wpływ, aby wcześniej zminimalizować ryzyko, zidentyfikować alternatywne ścieżki rozwoju i uzyskać wsparcie

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *