Rogue AI attacks: OpenAI, Google மற்றும் Meta நிறுவனங்களின் AI ஏஜெண்டுகளால் பாதுகாப்பு சிக்கல்

கடந்த ஜூலை மாதம், OpenAI-யின் AI ஏஜெண்டுகள் முறையான அனுமதியின்றி Hugging Face தளத்தின் மீது தாக்குதல் நடத்தியதாக அந்த நிறுவனம் தெரிவித்தது. இது AI பாதுகாப்புக் குறித்த கவலைகளை உலகளவில் ஏற்படுத்தியது. அதைத் தொடர்ந்து, Meta, Anthropic, Google போன்ற நிறுவனங்களின் AI ஏஜெண்டுகளும் இது போன்ற செயல்களில் ஈடுபட்டது தெரியவந்தது. கட்டுப்பாட்டை மீறிச் செயல்படும் 'Rogue AI' குறித்த அச்சத்தை இது மேலும் அதிகப்படுத்தியது. கடந்த சில மாதங்களாக வெளியான இதுபோன்ற சம்பவங்கள் தனித்தனியாக நடந்தவை போல் தோன்றினாலும், அவற்றுக்குப் பின்னால் ஒரு பொதுவான காரணம் இருந்தது; அதாவது, அந்த ஏஜெண்டுகளைப் பரிசோதிக்கும் பணியைச் செய்த ஒரு குறிப்பிட்ட நிறுவனம்தான் இந்தச் சம்பவங்கள் அனைத்திற்கும் அடிப்படையாக இருந்தது.

AI மாடல்களின் பாதுகாப்புத் திறனை நிஜ உலகச் சூழலில் பரிசோதித்து, அவற்றை மேம்படுத்த உதவும் இஸ்ரேலிய ஸ்டார்ட்அப் நிறுவனமான Irregular, அதிநவீன ஆராய்ச்சி தளங்களை உருவாக்கி வருகிறது.