አይአይ እንዴት አደገኛ ዘሮቹን መቆጣጠር ይችላል።

2024 ደራሲ ደራሲ: Abigail Brown | [email protected]. ለመጨረሻ ጊዜ የተሻሻለው: 2023-12-17 06:38

ቁልፍ መውሰጃዎች

• አንድ አዲስ ወረቀት አርቴፊሻል ኢንተለጀንስ የትኛዎቹ የምርምር ፕሮጀክቶች ከሌሎቹ የበለጠ ደንብ እንደሚያስፈልጋቸው ሊወስን እንደሚችል ይናገራል።
• ምን አይነት AI አደገኛ ሊሆን እንደሚችል ለማወቅ የሚደረገው ጥረት አካል ነው።

• አንድ ኤክስፐርት የ AI እውነተኛ አደጋ ሰዎችን ዲዳ ሊያደርጋቸው ይችላል ይላሉ።

አርቴፊሻል ኢንተለጀንስ (AI) ብዙ ጥቅሞችን ይሰጣል፣ነገር ግን አንዳንድ ሊሆኑ የሚችሉ አደጋዎችንም ይሰጣል። እና አሁን፣ ተመራማሪዎች በኮምፒዩተራይዝድ የተሰሩ ፈጠራዎቻቸውን ለመከታተል የሚያስችል ዘዴ አቅርበዋል።

አንድ አለምአቀፍ ቡድን በአዲስ ወረቀት ላይ AI የትኛዎቹ የምርምር ፕሮጀክቶች ከሌሎቹ የበለጠ ደንብ ሊያስፈልጋቸው እንደሚችል ሊወስን እንደሚችል ተናግሯል። ሳይንቲስቶቹ ከባዮሎጂ እና ከሂሳብ የተውጣጡ ፅንሰ-ሀሳቦችን የሚያዋህድ ሞዴል ተጠቅመዋል እና ምን አይነት AI አደገኛ ሊሆን እንደሚችል ለማወቅ የሚደረገው ጥረት አካል ነው።

"በርግጥ፣ እንዲህ ከወሰንን የ AI 'sci-fi' አደገኛ አጠቃቀም ሊነሳ ይችላል። በፈረንሳይ በሚገኘው ኤኮል ፖሊቴክኒክ ውስጥ የቴክኖሎጂ ፎር ለውጥ ሊቀመንበር ለላይፍዋይር በኢሜል ቃለ ምልልስ ተናግሯል። "AIን መተግበር ብቃትን ማጎልበት (ለምሳሌ የሰውን/የሰራተኛውን ችሎታ እና እውቀት አግባብነት ያጠናክራል) ወይም ብቃትን ያጠፋል፣ ማለትም AI አሁን ያሉ ክህሎቶችን እና እውቀቶችን ጠቃሚ ወይም ጊዜ ያለፈበት ያደርገዋል።"

ትሮችን መጠበቅ

የቅርብ ጊዜ ወረቀት ደራሲዎች መላምታዊ የኤአይ ውድድርን ለማስመሰል ሞዴል እንደሰሩ በፖስታ ፅፈዋል። የገሃዱ አለም የኤአይ ሩጫዎች እንዴት እንደሚሰሩ ለመተንበይ ለመሞከር በመቶዎች ለሚቆጠሩ ጊዜያት ማስመሰሉን ሮጠዋል።

"በተለይ አስፈላጊ ሆኖ ያገኘነው ተለዋዋጭ የሩጫው "ርዝማኔ" ነበር - የእኛ አስመሳይ ሩጫዎች አላማቸው ላይ ለመድረስ የወሰዱበት ጊዜ (ተግባራዊ AI ምርት) ነው ሲሉ ሳይንቲስቶቹ ጽፈዋል። "የአይአይ ውድድር አላማቸው በፍጥነት ሲደርስ ሁልጊዜ የደህንነት ጥንቃቄዎችን እንዲዘነጉ ኮድ የሰጠናቸው ተወዳዳሪዎች ሁልጊዜ እንደሚያሸንፉ አግኝተናል።"

በተቃራኒው ተመራማሪዎቹ የረጅም ጊዜ የኤአይአይ ፕሮጄክቶች ያን ያህል አደገኛ እንዳልሆኑ ደርሰውበታል ምክንያቱም አሸናፊዎቹ ሁልጊዜ ደህንነትን ችላ የሚሉ አይደሉም። "እነዚህን ግኝቶች ከተመለከትን, ተቆጣጣሪዎች በሚጠበቀው የጊዜ ገደብ መሰረት የተለያዩ ደንቦችን በመተግበር የተለያዩ AI ዘሮች ለምን ያህል ጊዜ እንደሚቆዩ ማረጋገጥ አስፈላጊ ይሆናል" ሲሉ ጽፈዋል. "የእኛ ግኝቶች እንደሚያመለክቱት ለሁሉም AI ዘሮች አንድ ህግ - ከስፕሪንት እስከ ማራቶን - ወደ አንዳንድ ጥሩ ያልሆኑ ውጤቶች ይመራል."

በ AI ላይ የሚያማክረው የኮዳ ስትራቴጂ ኩባንያ ማኔጂንግ ዳይሬክተር ዴቪድ ዣኦ ከላይፍዋይር ጋር ባደረጉት የኢሜል ቃለ ምልልስ አደገኛ AIን መለየት ከባድ ሊሆን እንደሚችል ተናግረዋል። ተግዳሮቶቹ የ AI ዘመናዊ አቀራረቦች ጥልቅ የመማር አቀራረብን ስለሚወስዱ ነው።

"በጥልቀት መማር እንደ ምስል ማወቅ ወይም ንግግር ማወቂያ ባሉ ብዙ ጥቅም ላይ በሚውሉ አጋጣሚዎች የተሻለ ውጤት እንደሚያስገኝ እናውቃለን" ሲል ዣኦ ተናግሯል። "ነገር ግን የሰው ልጅ ጥልቅ የመማር ስልተ ቀመር እንዴት እንደሚሰራ እና ውጤቱን እንዴት እንደሚያመጣ መረዳት አይቻልም. ስለዚህ, ጥሩ ውጤቶችን የሚያመጣ AI አደገኛ መሆኑን ለመለየት አስቸጋሪ ነው, ምክንያቱም ሰዎች ምን እየተፈጠረ እንዳለ ለመረዳት የማይቻል ነው."

ሶፍትዌር ወሳኝ በሆኑ ስርዓቶች ውስጥ ጥቅም ላይ ሲውል "አደገኛ" ሊሆን ይችላል፣ እነዚህም በመጥፎ ተዋናዮች ሊበዘብዙ ወይም የተሳሳቱ ውጤቶችን ሊያመጡ የሚችሉ ተጋላጭነቶች አሏቸው ሲል የአይአይ ኩባንያ ሚክስ ሞድ የስትራቴጂ ዳይሬክተር ማት ሺአ በኢሜል ተናግረዋል። አክለውም ደህንነቱ ያልተጠበቀ AI እንዲሁም የውጤቶች ምደባ፣ የውሂብ መጥፋት፣ ኢኮኖሚያዊ ተፅእኖ ወይም የአካል ጉዳትን ሊያስከትል ይችላል።

"በተለምዷዊ ሶፍትዌሮች ገንቢዎች ስልተ ቀመሮችን ያስቀምጣሉ ይህም ተጋላጭነትን እንዴት መሰካት እንደሚቻል ወይም ምንጩን በማየት ስህተትን ማስተካከል እንደሚቻል ለማወቅ በሰው ሊመረመር ይችላል"ሲል ሺአ ተናግሯል።"ከ AI ጋር, ቢሆንም, የሎጂክ ዋና ክፍል ውሂብ በራሱ የተፈጠረ ነው, እንደ ነርቭ አውታረ መረቦች እና የመሳሰሉትን ወደ ውሂብ መዋቅሮች ውስጥ encoded. ይህ "ጥቁር ሳጥኖች" የሆኑ ሥርዓቶችን ያስከትላል ይህም ተጋላጭነቶችን ለማግኘት እና ለማስተካከል ሊመረመሩ አይችሉም. እንደ መደበኛ ሶፍትዌር።"

አደጋዎች ወደፊት?

እንደ The Terminator ባሉ ፊልሞች ላይ AI የሰውን ልጅ ለማጥፋት ያሰበ ክፉ ሃይል ሆኖ ሲገለፅ እውነተኛው አደጋው የበለጠ ፕሮዛይክ ሊሆን እንደሚችል ባለሙያዎች ይናገራሉ። ሬይና፣ ለምሳሌ፣ AI እኛን ደደብ ሊያደርገን እንደሚችል ይጠቁማል።

“ሰዎች አእምሮአቸውን ከማሰልጠን እና እውቀትን እንዳያዳብሩ ሊያደርጋቸው ይችላል” ብሏል። የጀማሪ አፕሊኬሽኖችን በማንበብ ብዙ ጊዜህን ካላጠፋህ በቬንቸር ካፒታል ውስጥ እንዴት ባለሙያ መሆን ትችላለህ? ይባስ ብሎ፣ AI በዋነኛነት 'ጥቁር ሣጥን' እና ብዙም ሊገለጽ የሚችል ነው። አንድ የተወሰነ AI ውሳኔ ለምን እንደተወሰደ ባለማወቅ ከሱ መማር በጣም ትንሽ ይሆናል ማለት ነው፣ ልክ እርስዎ በሴግዌይ ስታዲየም ውስጥ በመንዳት የባለሙያ ሯጭ መሆን አይችሉም።”

ጥሩ ውጤት እያስገኘ ያለው AI አደገኛ መሆኑን ማወቅ ከባድ ነው፣ ምክንያቱም ለሰው ልጆች ምን እየተካሄደ እንዳለ መረዳት ስለማይቻል።

ምናልባት ከ AI በጣም አፋጣኝ ስጋት የተዛባ ውጤቶችን ሊያቀርብ የሚችልበት እድል ነው ሲል በኤአይ ህጋዊ አንድምታ ላይ የሚጽፈው የህግ ባለሙያ ላይሌ ሰሎሞን በኢሜል ቃለ ምልልስ ላይ ተናግሯል።

"AI የማህበረሰቡን መለያየት የበለጠ ለማጎልበት ሊረዳ ይችላል። AI በመሠረቱ የተገነባው ከሰዎች በተሰበሰበ መረጃ ነው" ሲል ሰሎሞን አክሏል። "[ነገር ግን] ምንም እንኳን በጣም ሰፊው መረጃ ቢኖረውም, አነስተኛ ንዑስ ስብስቦችን ይዟል እና ሁሉም ሰው የሚያስቡትን አይጨምርም. ስለዚህ ከአስተያየቶች, ከህዝባዊ መልዕክቶች, ግምገማዎች, ወዘተ የሚሰበሰበው መረጃ በተፈጥሮ አድልዎዎች AI አድልዎ እና ጥላቻን ያጎላል."