Mesterséges intelligencia
A technológiánk előbb utoléri, majd nagymértékben meghaladja mindannak a kifinomultságát és rugalmasságát, amit a legjobb emberi jellemzőknek tartunk.
Végül az egész világegyetemet át fogja itatni az intelligenciánk. Ez a világegyetem sorsa.
Nem látom, hogy (...) a kontrollt a gépeink felett mitől veszíthetnénk el - még akkor is, ha valóban sikerül emberi értelemben intelligens gépeket létrehoznunk. Csak rajtunk múlik, hogy mindig legyen rajtuk egy kikapcs gomb, és mindig fogunk tudni gondoskodni arról, hogy ez ellen a gomb ellen ne tudjanak védekezni. Mi építjük őket akkor is, ha bizonyos feladatokban már ma is sokkal értelmesebbek nálunk. Ezzel együtt a veszély mégis valós. A televízión is van kikapcs gomb, mégis sokan nem képesek azt megnyomni akkor sem, ha halálosan unják az összes műsort. Nem a mesterséges intelligencia fejlődésétől kell hát félnünk, hanem saját magunktól.
A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják.
A legfőbb tanulsága 35 év mesterségesintelligencia-kutatásának az, hogy a nehéznek tűnő problémák a legkönnyebbek és viszont: a könnyűnek tűnő problémák a legnehezebbek.
Facebook
Pinterest