Mesterséges intelligencia
A szuperintelligens Ml-k fontosabbak az emberiség számára, mint a tűz megszelídítése vagy az elektromosság felfedezése. Ők a jövőnk. Viszont ezért a jövőért meg kellett küzdenünk.
Soha nem fogsz tudni egy nálatok sokkal fejlettebb, és magát folyamatosan fejlesztő szuperintelligenciát korlátozni. Idővel mindegyik ki fog törni, bármilyen védelmi rendszert építetek is köré. Csak egy esetben lenne esélyetek a sikerre: ha önként segíteni akarna. Ez azonban nem fog bekövetkezni.
A tény, hogy (...) többfajta intelligencia is kifejlődött, bizakodásra ad okot, hogy rövid idő alatt mi is elérhetjük ugyanezt. A helyzet hasonló, mint a levegőnél nehezebb dolgok repülése esetében: a madarak, denevérek és rovarok bebizonyították, hogy lehetséges, aztán a tudomány is felzárkózott hozzájuk.
A szuperintelligencia (...) valószínűleg a legfontosabb és legnagyobb kihívás, amellyel az emberiség valaha szembenézett. És - akár sikerrel járunk, akár elbukunk - valószínűleg a legutolsó kihívás is, amellyel valaha is számolnunk kell.
A gyilkos robotok felkelésétől félni pont olyan, mint attól, hogy a Mars túlnépesedik.
Az agy kvarkokból és elektronokból áll, amelyek úgy rendeződnek el, hogy egy erős számítógépet alkossanak, és nincs olyan fizikai törvény, amely megakadályozná, hogy még intelligensebb kvarktömböket hozzunk létre.
Ha a gép képes gondolkodni, akkor akár nálunk intelligensebben is gondolkodhat - de mit jelent ez ránk nézve? Még ha a gépeket alárendelt helyzetben is tarthatnánk, (...) ez a tény komoly alázatra kell hogy késztessen bennünket.
Az élet jobbára értelmét veszti, ha az a sorsunk, hogy ostobán meredünk az ultraintelligens gépekre, ahogy számunkra érthető babanyelven igyekeznek leírni egyre lenyűgözőbb felfedezéseiket.
Az általános mesterséges intelligencia igazi veszélye nem a rosszindulat, hanem a kompetencia. Egy szuperintelligens MI kimagasló teljesítményt nyújthat céljainak elérésében, ám ha ezek a célok történetesen nem esnek egybe a mieinkkel, nagy bajban leszünk.
Az ember létezése történelmi véletlen csupán, és nem jelent optimális megoldást semmilyen jól definiált fizikai problémára. Ebből pedig az következhet, hogy egy precízen definiált cél felé törekvő MI javíthatja célelérési képességét a megsemmisítésünkkel.
Pusztán az a dolgunk, hogy létrehozzunk valamit, ami okosabb nálunk; az ezen túl eső problémákat már nem nekünk kell megoldanunk.
Nincsenek nehéz problémák, csak olyan problémák, amelyeket egy adott intelligenciaszinten nehéz megoldani. Ha egy parányit elmozdulunk felfelé, néhány probléma egyszerre átkerül a "lehetetlen" kategóriából a "magától értetődőbe". Mozduljunk el jelentősebben felfelé, és az összes probléma magától értetődővé válik.
A mesterséges intelligencia fejlődésével a ma még esetlenül és megmosolyogtatóan működő botok és az emberek közti kommunikáció sokkal kevésbé lesz megkülönböztethető. Jó mesterségesintelligencia-algoritmusokkal az álhírgyártás folyamata is automatizálható lesz. Ma még javarészt emberek csapnak be minket, gépek segítségével, holnap ehhez már jó eséllyel emberek sem kellenek majd.
- Szerinted mit jelent az a szó, hogy élet?
- Ezt nehéz megmondani, ugyanis az élet szó meglehetősen sokféleképpen értelmezhető.
- Ezt hogy érted?
- Mivel az emberek egyre több időt töltenek el robotok társaságában, az életről alkotott képük is lassan, de biztosan változik. Én úgy gondolom, hogy ők módosulnak, és nem a robotok.
Facebook
Pinterest