సర్వశక్తి వ్యవస్థను విడుదల చేయడానికి ముందు, రాబర్ట్ ఒపెన్‌హీమర్ యొక్క మొట్టమొదటి అణు పరీక్షకు ఆధారమైన భద్రతా లెక్కలను ప్రతిబింబించాలని AI కంపెనీని కోరారు.

AI భద్రత యొక్క ప్రముఖ స్వరం మాక్స్ టెగ్మార్క్, ట్రినిటీ పరీక్షకు ముందు అమెరికన్ భౌతిక శాస్త్రవేత్త ఆర్థర్ కాంప్టన్ మాదిరిగానే గణనలను నిర్వహించారు, అధునాతన AI అస్తిత్వ ముప్పును కలిగించడానికి 90% అవకాశం ఉందని తెలిపింది.

యుఎస్ ప్రభుత్వం 1945 లో ట్రినిటీతో ముందుకు సాగింది. వాతావరణాన్ని మండించే మరియు మానవాళిని ప్రమాదంలో పడే అణు బాంబు అదృశ్యమయ్యే అవకాశం చాలా తక్కువ అవకాశం ఉందని భరోసా ఇచ్చిన తరువాత ఇది వస్తుంది.

టెగ్మార్క్ మరియు మసాచుసెట్స్ ఇన్స్టిట్యూట్ ఆఫ్ టెక్నాలజీ (MIT) నుండి ముగ్గురు విద్యార్థులు ప్రచురించిన కాగితంలో మీరు “కాంప్టన్ స్థిరాంకం” ను లెక్కించాలని సిఫార్సు చేయబడింది. 1959 లో అమెరికన్ రచయిత పెర్ల్‌బ్యాక్‌కు ఇచ్చిన ఇంటర్వ్యూలో, కాంప్టన్ మాట్లాడుతూ, రన్అవే స్పందనల యొక్క అసమానతలను మూడు మిలియన్ల మందిలో ఒకటి కంటే “కొంచెం తక్కువ” అని లెక్కించిన తరువాత అతను పరీక్షను ఆమోదించానని చెప్పారు.

కృత్రిమ సూపర్ ఇంటెలిజెన్స్ (ASI) (అన్ని విధాలుగా మానవ మేధస్సు కంటే ఉన్నతమైన సైద్ధాంతిక వ్యవస్థ యొక్క పదం) మానవ నియంత్రణను నివారిస్తుందా అని ఖచ్చితంగా లెక్కించడానికి AI కంపెనీలు బాధ్యత వహించాలని టెగ్మార్క్ చెప్పారు.

“సూపర్ ఇంటెలిజెన్స్‌ను నిర్మించే కంపెనీలు తప్పనిసరిగా కాంప్టన్ స్థిరాంకాన్ని లెక్కించాలి, ఇది మేము నియంత్రణను కోల్పోయే అవకాశం” అని ఆయన అన్నారు. “‘మేము దాని గురించి మంచి అనుభూతి చెందుతున్నాము’ అని చెప్పడం సరిపోదు. వారు శాతాన్ని లెక్కించాలి. ”

బహుళ కంపెనీలు లెక్కించిన కాంప్టన్ యొక్క ఒక నిర్దిష్ట ఏకాభిప్రాయం AIS యొక్క ప్రపంచ భద్రతా పాలనకు అంగీకరించడానికి “రాజకీయ సంకల్పం” ను సృష్టిస్తుందని టెగ్మార్క్ చెప్పారు.

MIT మరియు AI పరిశోధకుడి వద్ద భౌతిక శాస్త్ర ప్రొఫెసర్ అయిన టెగ్మార్క్, AI యొక్క సురక్షితమైన అభివృద్ధికి మద్దతు ఇచ్చిన లాభాపేక్షలేని సంస్థ ది ఫ్యూచర్ ఆఫ్ లైఫ్ ఇన్స్టిట్యూట్ యొక్క సహ వ్యవస్థాపకుడు మరియు 2023 లో బహిరంగ లేఖను విడుదల చేసింది, ఇది శక్తివంతమైన AIS ను నిర్మించటానికి విరామం ఇవ్వమని పిలుపునిచ్చింది. ఈ లేఖలో 33,000 మందికి పైగా సంతకం చేశారు, ఇన్స్టిట్యూట్ ఎలోన్ మస్క్ మరియు ఆపిల్ సహ వ్యవస్థాపకుడు స్టీవ్ వోజ్నియాక్ యొక్క ప్రారంభ మద్దతుదారులు ఉన్నారు.

చాట్‌గ్‌పిటి విడుదలైన చాలా నెలల తర్వాత రాసిన ఈ లేఖ, AI అభివృద్ధి యొక్క కొత్త శకాన్ని ప్రారంభించింది, AI ల్యాబ్‌లు “బలమైన డిజిటల్ మనస్సును” అమలు చేయడానికి “అవుట్-కంట్రోల్ రేసుల్లో” చిక్కుకున్నాయని హెచ్చరించింది.

హైటెక్ పరిశ్రమ నిపుణులు, రాష్ట్ర-మద్దతు గల భద్రతా సంస్థల ప్రతినిధులు మరియు విద్యావేత్తలతో సహా AI నిపుణుల బృందంగా టెగ్మార్క్ గార్డియన్‌తో మాట్లాడారు.

గ్లోబల్ AI సేఫ్టీ రీసెర్చ్ ప్రియారిటీ రిపోర్ట్‌పై సింగపూర్ ఏకాభిప్రాయం ప్రపంచ ప్రముఖ కంప్యూటర్ శాస్త్రవేత్త జాషువా బెంజియో మరియు టెగ్మార్క్, ఓపెనాయ్ మరియు గూగుల్ డీప్‌మైండ్ వంటి ప్రముఖ AI కంపెనీల ఉద్యోగి. AI భద్రతా పరిశోధనకు ప్రాధాన్యత ఇవ్వడానికి మేము మూడు విస్తృత ప్రాంతాలను ఏర్పాటు చేసాము. ప్రస్తుత మరియు భవిష్యత్తు AI వ్యవస్థల ప్రభావాన్ని కొలవడానికి పద్ధతుల అభివృద్ధి. AI ఎలా పనిచేస్తుందో పేర్కొనండి మరియు దీన్ని సాధించడానికి వ్యవస్థను రూపొందించండి. నిర్వహణ మరియు నియంత్రణ వ్యవస్థ ప్రవర్తన.

నివేదికను ప్రస్తావిస్తూ, టెగ్మార్క్ మాట్లాడుతూ, యుఎస్ వైస్ ప్రెసిడెంట్ జెడి వాన్స్ AI యొక్క భవిష్యత్తు “చేతులు పైకెత్తడం మరియు భద్రత గురించి గెలవడం లేదు” అని యుఎస్ వైస్ ప్రెసిడెంట్ జెడి వాన్స్ చెప్పినప్పుడు AI లో సురక్షితమైన అభివృద్ధి కోసం చర్చ తిరిగి వచ్చింది.

టెగ్మార్క్ ఇలా అన్నాడు: