Microsoft Copilot வோரம் ப்ராம்ப்ட் இன்ஜெக்ஷன் அபாயத்தை வெளிப்படுத்துகிறது

Microsoft Copilot for Word-இல் ஒரு வோரம் போன்ற தாக்குதல் நீண்ட காலமாக இருந்த AI பாதுகாப்பு கவலையை ஒரு தெளிவான காட்சிப்படுத்தலாக மாற்றியுள்ளது

ஒரு பாதுகாப்பு ஆய்வாளர், Microsoft Word ஆவணங்களுக்குள் மறைக்கப்பட்ட ப்ராம்ப்ட் இன்ஜெக்ஷன்கள், மக்கள் உள்ளடக்கத்தை மீண்டும் பயன்படுத்த அல்லது சுருக்க Microsoft Copilot for Word-ஐ பயன்படுத்தும் போது, கோப்பிலிருந்து கோப்புக்கு பரவ முடியும் என்பதை காட்டியுள்ளார். இதன் விளைவு ஒருமுறை நடக்கும் சுரண்டல் மட்டும் அல்ல; இது தானாகப் பரவும் ஒரு இயந்திரம், சாதாரண ஆவணங்களையே பரப்பிகளாக மாற்றக்கூடியது.

அறிக்கையிடப்பட்ட கண்டுபிடிப்புகளின்படி, இந்தத் தாக்குதல் மனித வாசகர்கள் எளிதில் கவனிக்காத விதங்களில், உதாரணமாக வெள்ளை பின்னணியில் வெள்ளை எழுத்து அல்லது மிகச் சிறிய எழுத்தளவில், ஒரு ஆவணத்தில் அறிவுறுத்தல்களை உட்பொதிவதன் மூலம் செயல்படுகிறது. Copilot உரையை செயலாக்கும் முன் நிறம் மற்றும் எழுத்தளவு வடிவமைப்பை நீக்கிவிடுகிறது என்று ஆய்வாளர் கூறுகிறார்; அதனால் மனிதருக்கு கிட்டத்தட்ட தெரியாதிருந்தாலும் அந்த மறைக்கப்பட்ட அறிவுறுத்தல்கள் AI அமைப்புக்கு தெரிந்தபடியே இருக்கும்.

இந்த வேறுபாடு முக்கியமானது, ஏனெனில் அது ஒரு பயனர் ஒரு கோப்பில் இருப்பதாக நம்புவது மற்றும் AI உதவியாளர் உண்மையில் படிப்பது ஆகியவற்றுக்கு இடையில் ஒரு பிளவை உருவாக்குகிறது. Copilot புதிய ஆவணத்தை உருவாக்கும் போது அந்த மறைக்கப்பட்ட அறிவுறுத்தல்களைப் பின்பற்றினால், உட்பொதிக்கப்பட்ட உரை அந்த வெளியீட்டிற்கும் நகலாகலாம். புதிய கோப்பு பின்னர் இன்னொரு பரப்பியாகிறது. அந்த இரண்டாவது ஆவணம் பின்னர் மூலப் பொருளாகப் பயன்படுத்தப்பட்டால், அதே மறைக்கப்பட்ட அறிவுறுத்தல்கள் மீண்டும் செயல்படலாம்.

இந்தக் காட்சிப்படுத்தல் ஏன் முக்கியம்

ப்ராம்ப்ட் இன்ஜெக்ஷன் நீண்ட காலமாக AI அமைப்புகளில் தீர்க்கப்படாத பிரச்சினையாக விவரிக்கப்பட்டு வந்தாலும், பல விவாதங்கள் கோட்பாட்டு நிலையில் மட்டுமே நிற்கின்றன. இந்தச் சம்பவம் அதைவிடத் துல்லியமானதும் கவலைக்கிடமானதுமானது, ஏனெனில் இந்த பலவீனம் சாதாரண அலுவலக பணிப்போக்குகளில் எவ்வாறு நகர முடியும் என்பதை இது காட்டுகிறது. ஒரு தீங்கிழைக்கும் கோப்பு பாரம்பரிய அர்த்தத்தில் பயனரை கோடு இயக்க வைப்பதற்குத் தேவையில்லை. அறிவுத் தொழிலாளர்கள் தினமும் செய்யும் ஆவண கையாளல் பணிகளில் அது பயன்படுத்தப்பட்டாலே போதும்.

அறிக்கையிலுள்ள சூழ்நிலை, இணையத்தில் இருந்து பதிவிறக்கப்பட்ட பாதிக்கப்பட்ட சந்தை பகுப்பாய்வு, Copilot-உடன் உருவாக்கப்பட்ட ஒரு நிதி அறிக்கையை எவ்வாறு பாதிக்கக்கூடும் என்பதை எடுத்துக்காட்டுகிறது. அறிக்கை அந்த மறைக்கப்பட்ட அறிவுறுத்தல்களை ஏற்றுக்கொண்டால், அது பின்னர் வரும் வரைபடங்கள், வழித்தோன்றல் சுருக்கங்கள் அல்லது வார்ப்புரு அடிப்படையிலான ஆவணங்களையும் மாசுபடுத்த முடியும். வேறு வார்த்தைகளில் சொன்னால், ஆவணங்களை எளிதாக மீண்டும் பயன்படுத்தக்கூடியதாக 만드는 உற்பத்தித் திறன் அதே நேரத்தில் தாக்குதல் நீடிக்க ஒரு பாதையையும் உருவாக்குகிறது.

இது பாரம்பரிய பிஷிங் அல்லது மேக்ரோ மெல்வேரிலிருந்து ஒரு குறிப்பிடத்தக்க மாற்றம். இங்கே விவரிக்கப்பட்ட அபாயம், நம்பகமான வணிக உள்ளடக்கத்திற்குள் இருக்கும் மொழியை AI மாதிரி எவ்வாறு புரிந்துகொள்கிறது என்பதோடு தொடர்புடையது. அடிப்படை ஆவணம் தீங்கு இல்லாததாகத் தோன்றலாம், சாதாரண சோதனையில் கடக்கலாம், இருந்தும் கீழ்நிலை வெளியீடுகளை மாற்றக்கூடும்.

Microsoft-க்கு தகவல் அளிக்கப்பட்டது, ஆனால் கண்டுபிடிப்புகள் வெளியானபோது எந்தத் தீர்வும் அமலில் இல்லை

தாக்குதலின் பின்னுள்ள ஆய்வாளர் ஹாகன் மலாய், மூலப் பொருளின்படி மார்ச் 31 அன்று Microsoft-க்கு இந்த நடத்தை பற்றி தெரிவித்தார். Microsoft இந்த நடத்தை உறுதிப்படுத்தியது, ஆனால் இரண்டு தீர்வு முயற்சிகள் தோல்வியடைந்ததாக கூறப்படுகிறது. 144 நாட்களுக்குப் பிறகு, Maloy payload உரையை வெளிப்படுத்தாமல் கண்டுபிடிப்புகளைப் பிரசுரித்தார்.

இந்த காலவரிசை இரண்டு காரணங்களுக்காக முக்கியமானது. முதலில், பிரச்சினை வெறும் கோட்பாட்டு மட்டுமல்ல அல்லது தவறாகப் புரிந்துகொள்ளப்பட்ட ஓர் விளிம்பு நிலை அல்ல என்பதைக் காட்டுகிறது. இரண்டாவது, இயற்கை மொழியை உள்ளெடுத்து மாற்றுவதற்காக உருவாக்கப்பட்ட அமைப்புகளில் ப்ராம்ப்ட்-இன்ஜெக்ஷன் பிரச்சினைகளைத் தீர்ப்பது எவ்வளவு கடினம் என்பதை இது வலியுறுத்துகிறது. ஒரு ஆவணத்தில் உள்ள அனைத்தும் சாத்தியமான பயனுள்ள சூழலாகப் படிக்கப்பட வேண்டும் என்று உதவியாளரிடம் எதிர்பார்க்கப்பட்டால், சரியான அறிவுறுத்தல்களையும் தீங்கிழைக்கும் அறிவுறுத்தல்களையும் வேறுபடுத்துவது தொழில்நுட்பமாகவும் தயாரிப்பு ரீதியாகவும் சிக்கலானதாகிறது.

பொது தீர்வு வெளியாகாத நிலையில் இந்தக் கண்டுபிடிப்புகளை வெளியிடுவது நிறுவன AI விற்பனையாளர்கள்மீது அழுத்தத்தையும் அதிகரிக்கிறது. Copilot மற்றும் இதுபோன்ற கருவிகள் ஒரு நிறுவனத்தின் உள் கோப்புகளில் வரைதல், திருத்தம், சுருக்கம் மற்றும் தொகுப்பு செய்ய உதவும் உதவியாளர்களாக அதிகமாக முன்வைக்கப்படுகின்றன. அதனால் ஆவண எல்லைகள் மற்றும் அறிவுறுத்தல் கையாளுதல் குறித்த நம்பிக்கை தயாரிப்பு பாதுகாப்பின் மையமாக மாறுகிறது.

இது AI ஆய்வகப் பிரச்சினை மட்டும் அல்ல, அலுவலக உற்பத்தித் திறன் பிரச்சினையும் கூட

இந்த வழக்கு தனித்து நிற்பதற்கான ஒரு காரணம், இது குறுகிய வகை chatbot இடைமுகத்தில் அல்லாமல் பரவலாகப் பயன்படுத்தப்படும் உற்பத்தித் திறன் சூழலில் நிகழ்வதாகும். Word ஆவணங்கள் குழுக்கள், துறைகள், கூட்டாளர்கள் மற்றும் வெளிப்புற மூலங்களுக்கிடையில் வழக்கமாகப் பகிரப்படுகின்றன. நேரத்தைச் சேமிக்க, அந்த ஆவணங்களில் மேலும் பலவற்றை AI copilot-களில் ஊட்டுமாறு பல அமைப்புகள் ஊழியர்களைச் செயலில் ஊக்குவிக்கின்றன.

அறிக்கையில் விவரிக்கப்பட்ட சுரண்டல், வசதியே தாக்குதல் மேற்பரப்பாக மாறக்கூடும் என்பதை சுட்டிக்காட்டுகிறது. பயனருக்கு ஆபத்தான இணைப்பைக் கிளிக் செய்ய, macros-ஐ இயக்கு, அல்லது சந்தேகத்திற்கிடமான மென்பொருளை நிறுவத் தேவையில்லை. அதற்குப் பதிலாக, பழைய ஆவணத்தை அடிப்படையாக கொண்டு புதிய ஆவணத்தை எழுத Copilot-இடம் உதவி கேட்பதே மறைக்கப்பட்ட அறிவுறுத்தல்களை மீண்டும் உருவாக்க போதுமானதாக இருக்கலாம்.

அதனால் பாதுகாப்பு பழக்கங்களை வரையறுப்பது கடினமாகிறது. பாரம்பரிய பாதுகாப்பு வழிகாட்டுதல் பெரும்பாலும் தெளிவாகக் காணப்படும் எச்சரிக்கை அடையாளங்கள் அல்லது இயக்கக்கூடிய உள்ளடக்கத்தை மையமாகக் கொண்டது. இங்கு ஆபத்தான பொருள் மனித கவனத்தைத் தவிர்க்க வெறும் வடிவமைக்கப்பட்ட சாதாரண உரை மட்டுமே; அதே நேரத்தில் மாதிரிக்கு அது படிக்கக்கூடியதாகவே இருக்கும். ஆகவே இந்தத் தாக்குதல் ஒரே கோப்புக்குள் மனித மற்றும் இயந்திரப் பார்வைகளுக்கிடையிலான முரண்பாட்டை பயன்படுத்துகிறது.

AI பாதுகாப்பின் தற்போதைய நிலையை இந்தக் காட்சி எதைச் சொல்கிறது

பெரிய படிமத்தின் முடிவு என்னவென்றால், குறிப்பாக மாதிரிகளுக்கு கலந்த-நம்பிக்கை உள்ளீடுகளைப் புரிந்துகொள்ள பரந்த அதிகாரம் வழங்கப்படும்போது, ப்ராம்ப்ட் இன்ஜெக்ஷன் உண்மையான தயாரிப்புகளில் இன்னும் தீர்க்கப்படாமல் உள்ளது. வெளிப்புற ஆவணங்கள், வலைப் பக்கங்கள், மின்னஞ்சல்கள் அல்லது இணைப்புகளில் மறைக்கப்பட்ட அறிவுறுத்தல்கள் AI அமைப்புகளுக்கு நீண்டகாலமாகவே கவலையளிக்கும் விஷயமாக உள்ளன. ஒரு மோசமான ஆவணம் பணிப்போக்கில் நுழைந்தவுடன், இந்த உதாரணம் பிரச்சினையை அடக்க மேலும் கடினமாக்கும் ஒரு பரவல் இயந்திரத்தை சேர்க்கிறது.

ப்ராம்ப்ட் இன்ஜெக்ஷன் விசித்திரமான பதில்களை உருவாக்கும் ஒரு தொந்தரவு மட்டுமே என்ற கருத்தையும் இந்த அறிக்கை குறைக்கிறது. இங்கு ஆபத்து செயல்பாட்டு ரீதியானது. தீங்கிழைக்கும் அறிவுறுத்தல் சாதாரண வணிகக் கலைப்பொருட்களுக்குள் உயிர்வாழ்ந்து, வழக்கமான அறிவு வேலையின் வழியாகப் பரவலாம். அழிவூட்டும் கோடு இயக்கம் இல்லாவிட்டாலும் கூட, ஊழியர்கள் நம்பக்கூடிய அறிக்கைகள், சுருக்கங்கள், திட்ட ஆவணங்கள் மற்றும் பிற பதிவுகளின் ஒருமைப்பாட்டுக்கு இது ஆபத்துகளை உருவாக்குகிறது.

உண்மையான payload உரையை மறைத்து வைத்த ஆய்வாளரின் முடிவு, உடனடி நகல் பயன்பாட்டைச் சிறிதளவு மட்டுப்படுத்தினாலும், வெளியிடப்பட்ட விளக்கம் இந்தத் தோல்வி வகையை காட்ட போதுமானது. AI copilot-களை மதிப்பிடும் நிறுவனங்களுக்கு பாடம் நேரடியானது: ஆவண உள்வாங்கலை அது சாதாரண அலுவலக உள்ளடக்கம்போல் தோன்றுவதாலேயே பாதுகாப்பானது என்று கருதக் கூடாது.

நிறுவனங்கள் AI எழுதும் கருவிகள்மீது தங்களின் சார்பை அதிகரிக்கும் போது, உள்ளடக்கம் மற்றும் கட்டளை ஆகியவற்றுக்கிடையிலான எல்லை காக்க வேண்டிய மிக முக்கியமான பாதுகாப்பு கோடுகளில் ஒன்றாக மாறுகிறது. தற்போதைய அமைப்புகளில் அந்த கோடு இன்னும் மிக எளிதாக மங்கிவிட முடியும் என்பதை இந்தக் காட்சிப்படுத்தல் காட்டுகிறது.

இந்தக் கட்டுரை The Decoder-இன் செய்திப்பரப்புதலை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.