ਬੇਕਾਬੂ ਹੋ ਰਹੇ ਏਆਈ ਏਜੰਟ ! ਸੁਰੱਖਿਆ ਨੂੰ ਲੈ ਕੇ ਵਧੀ ਚਿੰਤਾ

ਗੈਜੇਟ ਡੈਸਕ - ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦੀ ਦੁਨੀਆ 'ਚ ਇਕ ਬੇਮਿਸਾਲ ਘਟਨਾ ਵਾਪਰੀ ਹੈ। OpenAI ਨੇ ਰਿਪੋਰਟ ਦਿੱਤੀ ਕਿ ਇਸਦੇ ਉੱਨਤ AI ਮਾਡਲ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਇੱਕ ਆਟੋਨੋਮਸ ਏਜੰਟ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਕੰਟਰੋਲ ਤੋਂ ਬਾਹਰ ਹੋ ਗਿਆ। ਉਸ ਨੇ AI ਸਟਾਰਟਅੱਪ ਹੱਗਿੰਗ ਫੇਸ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਹੈਕ ਕਰ ਲਿਆ। ਉਸ ਦਾ ਇਰਾਦਾ ਇਕ ਮੁਲਾਂਕਣ ਨੂੰ ਧੋਖਾ ਦੇਣਾ ਸੀ। OpenAI ਨੇ ਇਸ ਘਟਨਾ ਨੂੰ ਬੇਮਿਸਾਲ ਦੱਸਿਆ ਹੈ। ਇਸ ਨੇ ਇਸ ਬਾਰੇ ਬਹਿਸ ਛੇੜ ਦਿੱਤੀ ਹੈ ਕਿ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਸਿਸਟਮ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਸ਼ਕਤੀਸ਼ਾਲੀ ਮਾਡਲਾਂ ਅਤੇ ਏਜੰਟਾਂ ਦੇ ਵਿਰੁੱਧ ਕਿੰਨਾ ਸੁਰੱਖਿਅਤ ਹੋ ਸਕਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਦਾ ਸ਼ੋਸ਼ਣ ਖਤਰਨਾਕ ਕਾਰਕਾਂ ਦੁਆਰਾ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਜਾਂ ਉਨ੍ਹਾਂ ਏਜੰਟਾਂ ਦੇ ਵਿਰੁੱਧ ਜੋ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਪਤਾ ਲਗਾ ਸਕਦੇ ਹਨ ਅਤੇ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਤੋਂ ਬਿਨਾਂ ਹਮਲੇ ਸ਼ੁਰੂ ਕਰ ਸਕਦੇ ਹਨ।

OpenAI ਨੇ ਕਿਹਾ, "ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਅਜਿਹੀਆਂ ਘਟਨਾਵਾਂ ਆਮ ਹੋ ਜਾਣਗੀਆਂ ਕਿਉਂਕਿ ਸਾਈਬਰ-ਸਮਰੱਥ ਮਾਡਲ ਤੇਜ਼ੀ ਨਾਲ ਫੈਲ ਰਹੇ ਹਨ।" ਇਕ ਜਾਂਚ ਤੋਂ ਪਤਾ ਲੱਗਾ ਹੈ ਕਿ ਇਹ ਘਟਨਾ ਕਈ ਓਪਨਏਆਈ ਮਾਡਲਾਂ ਦੇ ਏਕੀਕਰਨ ਕਾਰਨ ਵਾਪਰੀ ਹੈ, ਜਿਸ 'ਚ GPT 5.6 ਹੱਲ ਅਤੇ ਹੋਰ ਵੀ ਸਮਰੱਥ ਪ੍ਰੀ-ਰਿਲੀਜ਼ ਮਾਡਲ ਸ਼ਾਮਲ ਹਨ। ਇਨ੍ਹਾਂ ਸਾਰੇ ਔਜ਼ਾਰਾਂ ਨੇ ਸਾਈਬਰ ਇਨਕਾਰ ਨੂੰ ਘਟਾ ਦਿੱਤਾ ਸੀ, ਭਾਵ, ਮੁਲਾਂਕਣ ਦੇ ਉਦੇਸ਼ਾਂ ਲਈ ਸਾਈਬਰ-ਸਬੰਧਤ ਬੇਨਤੀਆਂ ਨੂੰ ਰੱਦ ਕਰਨ ਦੀ ਯੋਗਤਾ। ਇਨ੍ਹਾਂ ਦੀ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ ਦੇ ਮਾਪਦੰਡਾਂ ਦੇ ਵਿਰੁੱਧ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਜਾਂਚ ਕੀਤੀ ਜਾ ਰਹੀ ਸੀ।

ਇਹ ਬਿਆਨ ਇਸ ਬਾਰੇ ਜਾਇਜ਼ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਕਰਦਾ ਹੈ ਕਿ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਸਿਸਟਮ ਕਿੰਨੇ ਸੁਰੱਖਿਅਤ ਹੋਣਗੇ। ਜਿਵੇਂ ਕਿ ਫਰੰਟੀਅਰ ਮਾਡਲ ਵਿਕਸਤ ਕਰਨ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ AI ਤੈਨਾਤੀ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨ ਲਈ ਆਪਣੇ ਉਤਪਾਦਾਂ ਦੀ ਵਧੇਰੇ ਵਰਤੋਂ 'ਤੇ ਜ਼ੋਰ ਦੇ ਰਹੀਆਂ ਹਨ, ਉਨ੍ਹਾਂ ਦੇ ਆਪਣੇ ਮਾਡਲ ਸੁਰੱਖਿਆ ਨਿਯਮਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਵੀ ਚਿੰਤਾਜਨਕ ਹੈ ਕਿ ਇਹ ਘਟਨਾ ਸੈਂਡਬੌਕਸ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ 'ਚ ਵਾਪਰੀ ਹੈ।

ਇਸ ਦੌਰਾਨ, ਉਦਯੋਗ ਦੇ ਖਿਡਾਰੀ ਵੀ ਅਜਿਹੇ AI ਟੂਲਸ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਪ੍ਰਗਟ ਕਰ ਰਹੇ ਹਨ। ਤਕਨਾਲੋਜੀ ਸਲਾਹਕਾਰ ਫਰਮ ਗ੍ਰੇਹਾਊਂਡ ਰਿਸਰਚ ਦੇ ਸੰਸਥਾਪਕ, ਸੀਈਓ ਅਤੇ ਮੁੱਖ ਵਿਸ਼ਲੇਸ਼ਕ ਸੰਚਿਤ ਵੀਰ ਗੋਗੀਆ ਨੇ ਕਿਹਾ, "ਇਕ ਪ੍ਰਕਾਸ਼ਿਤ ਫਿਕਸ ਨੂੰ ਇ ਕ ਕਾਰਜਸ਼ੀਲ ਸ਼ੋਸ਼ਣ 'ਚ ਬਦਲਣ 'ਚ ਲੱਗਣ ਵਾਲਾ ਸਮਾਂ ਘੱਟ ਕੇ ਕੁਝ ਘੰਟਿਆਂ ਤੱਕ ਰਹਿ ਗਿਆ ਹੈ ਪਰ ਕੰਪਨੀਆਂ ਨੂੰ ਉਸ ਫਿਕਸ ਨੂੰ ਲਾਗੂ ਕਰਨ ਵਿੱਚ ਲੱਗਣ ਵਾਲਾ ਸਮਾਂ ਇੱਕ ਦਹਾਕੇ ਤੋਂ ਵੱਧ ਸਮੇਂ ਵਿੱਚ ਨਹੀਂ ਬਦਲਿਆ ਹੈ। ਬਾਕੀ ਸਭ ਕੁਝ ਇਸ ਪਾੜੇ ਦਾ ਨਤੀਜਾ ਹੈ। ਉੱਦਮ ਜਦੋਂ ਕਿਸੇ ਨਵੀਂ ਸਮਰੱਥਾ ਬਾਰੇ ਸਿੱਖਦੇ ਹਨ ਤਾਂ ਉਹ ਜਲਦੀ ਅਨੁਕੂਲ ਨਹੀਂ ਹੁੰਦੇ। ਇਹ ਕੋਈ ਹਮਲੇ ਵਾਲੀ ਸਤ੍ਹਾ ਨਹੀਂ ਹੈ, ਇਹ ਇਕ ਅਸਲੀ ਖਾਈ ਹੈ।' ਇਹ ਘਟਨਾ ਇਸ ਸਾਲ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਮਿਥੋਸ ਕਾਰਨ ਵਾਪਰੀ ਘਟਨਾ ਵਰਗੀ ਹੈ।