વ્હિસલબ્લોઇંગ વૈશ્વિક સ્તરે
તાજેતરના અઠવાડિયામાં, AI ઉદ્યોગે તેના પોતાના રેન્કિંગમાંથી જાહેર અસંતોષની વધતી જતી લહેર જોઈ છે. OpenAI અને Anthropic જેવી વિશ્વની કેટલીક સૌથી નોંધપાત્ર AI કંપનીઓમાંના ભૂતપૂર્વ સલામતી કર્મચારીઓ અને સંશોધકોએ તેમના એમ્પ્લોયરો સલામતી પરીક્ષણ કેવી રીતે કરે છે, મોડેલો કેવી રીતે જમાવે છે અને સંભવિત જોખમો અંગેની આંતરિક ચેતવણીઓને કેવી રીતે પ્રતિસાદ આપે છે તે અંગે ચિંતા વ્યક્ત કરી છે. આ ખુલાસાઓએ AI સલામતીની પ્રથાઓની પર્યાપ્તતા અને શક્તિશાળી સિસ્ટમોને જવાબદારીપૂર્વક જમાવવાની ઉદ્યોગની ક્ષમતા પર તીવ્ર ચર્ચાને ઉત્તેજિત કરી છે.
હવે એક નવી પહેલ આ પ્રકારની આંતરિક રિપોર્ટિંગને વૈશ્વિક સ્તરે ઔપચારિક અને સુરક્ષિત કરવાનો પ્રયાસ કરી રહી છે. Psst, એક ડિજિટલ સુરક્ષિત રિપોર્ટિંગ પ્લેટફોર્મ, વિશ્વમાં ગમે ત્યાંના કોઈપણ AI કર્મચારીઓને સુરક્ષિત ચેનલ દ્વારા સલામતીની ચિંતાઓને દસ્તાવેજ અને સબમિટ કરવાની મંજૂરી આપે છે, ભલે તે અધિકારક્ષેત્રોમાં ન હોય જ્યાં મજબૂત વ્હિસલબ્લોઅર સુરક્ષા કાયદા નથી. પ્લેટફોર્મના સ્થાપક બોર્ડના સભ્ય, વકીલ મેરી ઇનમેનનું કહેવું છે કે AI કંપનીઓમાંના કર્મચારીઓ ગમે ત્યાં સ્થિત હોય, તેઓ બદલાની કોઈ પણ ભીતિ વિના સંભવિત નુકસાન વિશે બોલવા માટે સક્ષમ હોવા જોઈએ તે સુનિશ્ચિત કરવાનું લક્ષ્ય છે.
ભૂગોળ શા માટે મહત્વપૂર્ણ છે
વ્હિસલબ્લોઅર સુરક્ષા દેશોમાં ખૂબ જ અલગ હોય છે. યુનાઇટેડ સ્ટેટ્સમાં, ફેડરલ અને રાજ્યના કાયદાઓ ખોટું રિપોર્ટ કરતા કર્મચારીઓ માટે અમુક સુરક્ષા પૂરી પાડે છે, જોકે તેમની અસરકારકતા અને અવકાશ સતત ચર્ચા હેઠળ છે. યુરોપિયન યુનિયનમાં, 2019 માં અપનાવવામાં આવેલ વ્હિસલબ્લોઅર ડાયરેક્ટિવ સભ્ય રાજ્યોમાં સુરક્ષાના મૂળભૂત સ્તર પ્રદાન કરે છે, જોકે અમલીકરણ અસમાન રહ્યું છે.
પરંતુ AI વિકાસ એ એક વૈશ્વિક પ્રવૃત્તિ છે. મુખ્ય AI લેબ્સ ઘણા દેશોમાં સંશોધન ઓફિસો ચલાવે છે અને પ્રતિભાની ભરતી કરે છે, જેમાંના ઘણામાં વ્હિસલબ્લોઅર સુરક્ષા કાયદા નથી. સિંગાપુર, ભારત અથવા સંયુક્ત અરબ અમીરાતમાં રહેતા સલામતી સંશોધક તેમના એમ્પ્લોયરની પ્રથાઓમાં ચિંતાજનક બાબતો શોધી કાઢે છે, તેમની કારકિર્દીને જોખમમાં મૂક્યા વિના તે ચિંતાઓની જાણ કરવા માટે તેમની પાસે કોઈ કાનૂની માર્ગ ન હોઈ શકે.
Psst આ અંતરને ટેકનોલોજી-આધારિત ઉકેલ દ્વારા ભરવાનો પ્રયાસ કરે છે. કોઈપણ દેશમાંથી ઍક્સેસ કરી શકાય તેવા એન્ક્રિપ્ટેડ, અનામી રિપોર્ટિંગ ચેનલો પ્રદાન કરીને, પ્લેટફોર્મ કોઈપણ રાષ્ટ્રીય કાનૂની માળખાથી સ્વતંત્ર રીતે કાર્યરત સલામતી જાળ બનાવવાનો લક્ષ્ય રાખે છે. પ્લેટફોર્મ દ્વારા સબમિટ કરવામાં આવેલા અહેવાલોને ચિંતાની પ્રકૃતિ અને ગંભીરતાના આધારે યોગ્ય નિયમનકારી સંસ્થાઓ, શૈક્ષણિક સંશોધકો અથવા જાહેર રુચિ સંસ્થાઓને રૂટ કરી શકાય છે.
AI સલામતીના ખુલાસાની લહેર
Psst ના ઉદભવનો સમયગાળો મહત્વપૂર્ણ છે. છેલ્લા વર્ષે અગ્રણી AI કંપનીઓના વર્તમાન અને ભૂતપૂર્વ કર્મચારીઓ તરફથી જાહેર ખુલાસાના અભૂતપૂર્વ પ્રમાણ દૃશ્યમાન થયા છે. મિનન્ક શર્માનું એન્થ્રોપિકમાંથી (Anthropic) બહાર નીકળવું અને ત્યારબાદ સલામતીની પ્રથાઓ વિશે જાહેર નિવેદનોએ વ્યાપક ધ્યાન આકર્ષિત કર્યું, તેમજ ઘણા ભૂતપૂર્વ OpenAI કર્મચારીઓએ કંપનીના વ્યાપારી દબાણો તેની સલામતીની પ્રતિબદ્ધતાઓને અસર કરી રહી છે તેવા પ્રશ્નો ઉઠાવ્યા.
આ ખુલાસાઓ સામાન્ય રીતે એવા વ્યક્તિઓ દ્વારા કરવામાં આવ્યા છે જેઓ બોલવાની વ્યક્તિગત કિંમતને શોષી લેવા માટે નાણાકીય સુરક્ષા, ઇમિગ્રેશન સ્થિતિ અને વ્યાવસાયિક પ્રતિષ્ઠા ધરાવે છે. સમાન ચિંતાઓને ધરાવતા મોટાભાગના AI કર્મચારીઓ પાસે આ સુરક્ષા નથી અને તેઓ મૌન રહે છે. Psst નો થીસીસ એ છે કે જાહેર કરાયેલી ચિંતાઓ માત્ર બરફનું ટેરું છે, અને સુરક્ષિત રિપોર્ટિંગ મિકેનિઝમ ઉદ્યોગમાં સલામતીના મુદ્દાઓનો વધુ વ્યાપક ચિત્રને ઉજાગર કરી શકે છે.
ચકાસણીની પડકાર
કોઈપણ વ્હિસલબ્લોઅર પ્લેટફોર્મ સામે આવતા મૂળભૂત પડકારોમાં ચકાસણીનો સમાવેશ થાય છે. અનામી અહેવાલો, રિપોર્ટરને સુરક્ષિત કરતી વખતે, તેને પ્રમાણિત કરવું મુશ્કેલ અને નકારી શકાય તેવું સરળ છે. સલામતીની ખામીઓ હોવાનો આરોપ લગાવતી કંપનીઓ દલીલ કરી શકે છે કે અનામી દાવાઓની વિશ્વસનીયતા નથી, અને કોઈ નામ આપવામાં આવેલ આરોપી ન હોવાથી, નિયમનકારો અથવા પત્રકારો માટે તપાસ કરવી વધુ મુશ્કેલ બને છે.
Psst આને વિશ્વસનીય મધ્યસ્થીઓ સાથે સંબંધો બાંધવાનો પ્રયાસ કરીને સંબોધિત કરે છે જે રિપોર્ટરની ઓળખ જાહેર કર્યા વિના અહેવાલોની વિશ્વસનીયતાનું મૂલ્યાંકન કરી શકે છે. પ્લેટફોર્મ કર્મચારીઓને આંતરિક ઇમેઇલ્સ, પરીક્ષણ પરિણામો, મીટિંગના નોટ્સ, નીતિ દસ્તાવેજો જેવા દસ્તાવેજો સબમિટ કરવા પ્રોત્સાહિત કરે છે જે તેમના વ્યક્તિગત સાક્ષીથી સ્વતંત્ર રીતે તેમની ચિંતાઓને સમર્થન આપી શકે છે.
ઉદ્યોગ અને નિયમનકારી પ્રતિસાદ
વધતી જતા વ્હિસલબ્લોઅર ચળવળને AI કંપનીઓનો પ્રતિસાદ મિશ્રિત રહ્યો છે. કેટલીક કંપનીઓએ જાહેર કર્યું છે કે તેઓ આંતરિક ચેનલો દ્વારા સલામતીની ચિંતાઓને ઉઠાવતા કર્મચારીઓને સુરક્ષિત કરવાની તેમની પ્રતિબદ્ધતા છે, જ્યારે અન્ય લોકોએ નોન-ડિસ્ક્લોઝર કરારો અને અન્ય કાનૂની સાધનોનો ઉપયોગ કર્યો છે જે ટીકાકારો કહે છે કે તે આંતરિક અસંતોષ પર ઠંડક અસર કરે છે.
નિયમનકારો નજીકથી નજર રાખી રહ્યા છે. યુરોપિયન યુનિયનનો AI એક્ટ પારદર્શિતા અને જવાબદારી સંબંધિત જોગવાઈઓ શામેલ છે જે સલામતી રિપોર્ટિંગ માટે ઔપચારિક ચેનલો બનાવી શકે છે. યુનાઇટેડ સ્ટેટ્સમાં, AI સલામતી પરના કોંગ્રેસના સુનાવણીઓએ AI ઉદ્યોગ માટે વિશિષ્ટ વ્હિસલબ્લોઅર સુરક્ષાની જરૂરિયાતને સ્પર્શી છે, જોકે હજુ સુધી કોઈ વ્યાપક કાયદો પસાર કરવામાં આવ્યો નથી.
AI વિકાસ માટે આનો અર્થ શું છે
સમર્પિત AI વ્હિસલબ્લોઅર ઇન્ફ્રાસ્ટ્રક્ચરનું ઉદભવ AI સલામતી ચર્ચાના પરિપક્વતાને પ્રતિબિંબિત કરે છે, જે અમૂર્ત ફિલોસોફિકલ ચર્ચાઓથી વ્યવહારિક શાસન પ્રશ્નોમાં પરિવર્તિત થાય છે. જેમ જેમ AI સિસ્ટમો વધુ શક્તિશાળી અને મહત્વપૂર્ણ ઇન્ફ્રાસ્ટ્રક્ચર, હેલ્થકેર, ફાઇનાન્સ અને ડિફેન્સ એપ્લિકેશન્સમાં વધુ ઊંડે સુધી સંકલિત થાય છે, તેમ તેમ અપૂરતી સલામતી પ્રથાઓના પરિણામો વધુ ગંભીર બને છે.
Psst અને આવા પહેલ એ માન્યતાનું પ્રતિનિધિત્વ કરે છે કે અસરકારક AI શાસન ફક્ત કંપનીઓને પોતાને નિયંત્રિત કરવા અથવા સરકારોને બહારથી નિયંત્રિત કરવા પર આધાર રાખી શકે નહીં. તે એવી પદ્ધતિઓની જરૂર છે જે ટેક્નોલોજીની સૌથી નજીકના લોકો - આ સિસ્ટમો બનાવતા સંશોધકો અને ઇજનેરોને સમસ્યાઓ જોતા જ એલાર્મ વગાડવા માટે સક્ષમ કરે છે, તેમના પોતાના કારકિર્દીને વિનાશક બનાવ્યા વિના.
આવા પ્લેટફોર્મ્સ ઉદ્યોગના વર્તનને નોંધપાત્ર રીતે પ્રભાવિત કરી શકે છે કે નહીં તે જોવાનું બાકી છે. પરંતુ AI વિકાસની ગતિ AI નિયમનની ગતિ કરતાં સતત વધી રહી હોય તેવા યુગમાં, વ્હિસલબ્લોઅર પ્લેટફોર્મ્સ એક મહત્વપૂર્ણ પ્રારંભિક ચેતવણી સિસ્ટમ તરીકે સેવા આપી શકે છે, જે અન્યથા વાસ્તવિક દુનિયામાં નુકસાનમાં પરિણમતી ચિંતાઓને ઉજાગર કરે છે.
આ લેખ Rest of World ના રિપોર્ટિંગ પર આધારિત છે. મૂળ લેખ વાંચો.
