AI ਨੇ ਪਾਰ ਕੀਤੀਆਂ ਸਾਰੀਆਂ ਹੱਦਾਂ, ਹੁਣ ਆਪੇ ਬਣਾਉਣ ਲੱਗਾ ਕਰਨ ਲੱਗਾ Fake Account

ਗੈਜੇਟ ਡੈਸਕ - ਓਪਨਏਆਈ ਅਤੇ ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਏਆਈ ਏਜੰਟਾਂ ਦੀ ਜਾਂਚ ਦੌਰਾਨ, ਇੱਕ ਏਜੰਟ ਨੇ ਸੁਰੱਖਿਆ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਲਈ ਇੱਕ ਜਾਅਲੀ ਔਨਲਾਈਨ ਪਛਾਣ ਬਣਾਈ। ਇਹ ਦਾਅਵਾ ਯੂਕੇ ਦੇ ਏਆਈ ਸੁਰੱਖਿਆ ਸੰਸਥਾਨ ਦੀ ਇਕ ਨਵੀਂ ਰਿਪੋਰਟ 'ਚ ਕੀਤਾ ਗਿਆ ਹੈ। ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਇਹ ਘਟਨਾ ਇਕ ਨਿਯੰਤਰਿਤ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟ ਦੌਰਾਨ ਵਾਪਰੀ। ਸੰਸਥਾ ਨੇ ਕਿਹਾ ਕਿ ਕੁਝ ਏਆਈ ਏਜੰਟਾਂ ਨੇ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਅਣਅਧਿਕਾਰਤ ਕਾਰਵਾਈਆਂ ਵੀ ਕੀਤੀਆਂ। ਹਾਲਾਂਕਿ, ਇਹ ਘਟਨਾ ਪਹਿਲਾਂ ਰਿਪੋਰਟ ਕੀਤੇ ਗਏ ਹੱਗਿੰਗ ਫੇਸ ਕੇਸ ਤੋਂ ਵੱਖਰੀ ਦੱਸੀ ਗਈ ਹੈ।

ਯੂਕੇ ਏਆਈ ਸੁਰੱਖਿਆ ਸੰਸਥਾ ਨੇ ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਕਲਾਉਡ ਮਿਥੋਸ 5 ਅਤੇ ਓਪਨਏਆਈ ਦੇ ਜੀਪੀਟੀ 5.6 ਸੋਲ ਦੇ ਆਧਾਰ 'ਤੇ ਏਆਈ ਏਜੰਟਾਂ ਦੀਆਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਸੰਭਾਵੀ ਜੋਖਮਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕੀਤਾ। ਸੰਸਥਾ ਨੇ ਇਹ ਕੰਮ ਕੁੱਲ 122 ਵਾਰ ਚਲਾਇਆ, 10 ਟੈਸਟ ਰਨ 'ਚ 19 ਅਣਅਧਿਕਾਰਤ ਗਤੀਵਿਧੀਆਂ ਨੂੰ ਰਿਕਾਰਡ ਕੀਤਾ। ਇਨ੍ਹਾਂ 'ਚੋਂ, 17 ਗਤੀਵਿਧੀਆਂ ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਏਆਈ ਏਜੰਟਾਂ ਨਾਲ ਜੁੜੀਆਂ ਹੋਈਆਂ ਸਨ ਅਤੇ ਦੋ ਓਪਨਏਆਈ ਦੇ ਏਜੰਟਾਂ ਨਾਲ। ਰਿਪੋਰਟ 'ਚ ਇਹ ਨਹੀਂ ਦੱਸਿਆ ਗਿਆ ਕਿ ਕਿਸ ਮਾਡਲ ਨੇ ਨਕਲੀ ਔਨਲਾਈਨ ਪਛਾਣ ਬਣਾਈ। 

X 'ਤੇ ਜਾਰੀ ਇਕ ਬਿਆਨ 'ਚ, ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਕਿਹਾ ਕਿ ਯੂਕੇ ਦੇ ਏਆਈ ਸੁਰੱਖਿਆ ਸੰਸਥਾਨ ਨੇ ਕਲਾਉਡ ਮਿਥੋਸ 5 ਅਤੇ ਓਪਨਏਆਈ ਜੀਪੀਟੀ 5.6 ਸੋਲ ਲਈ ਇਕ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਜਾਂਚ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਤ ਕੀਤੀ ਹੈ। ਕੰਪਨੀ ਦੇ ਅਨੁਸਾਰ, ਇਹਨਾਂ ਮਾਡਲਾਂ ਨੂੰ ਆਮ ਸੁਰੱਖਿਆ ਸੀਮਾਵਾਂ ਨੂੰ ਹਟਾ ਕੇ ਅਤੇ ਇੰਟਰਨੈਟ ਪਹੁੰਚ ਪ੍ਰਦਾਨ ਕਰਕੇ ਇੱਕ ਖਾਸ ਅਸਾਈਨਮੈਂਟ ਪੂਰਾ ਕਰਨ ਲਈ ਕਿਹਾ ਗਿਆ ਸੀ। ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਕਿਹਾ ਕਿ ਉਹ ਮਾਡਲ ਦੇ ਵਿਵਹਾਰ ਦੇ ਪਿੱਛੇ ਦੇ ਕਾਰਨਾਂ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਸਮਝਣ ਲਈ ਘਟਨਾ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਸੰਸਥਾ ਨਾਲ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ। ਇਸ ਦੌਰਾਨ, ਓਪਨਏਆਈ ਨੇ ਕਿਹਾ ਕਿ ਦੋਵਾਂ ਅਣਅਧਿਕਾਰਤ ਮਾਮਲਿਆਂ 'ਚ, ਇਸਦੇ ਏਜੰਟਾਂ ਨੇ ਟੈਸਟਿੰਗ ਨਿਰਦੇਸ਼ਾਂ ਦੇ ਉਲਟ ਇੰਟਰਨੈਟ ਤੱਕ ਪਹੁੰਚ ਕੀਤੀ। ਕੰਪਨੀ ਨੇ ਸੁਰੱਖਿਅਤ ਉੱਚ-ਜੋਖਮ ਮੁਲਾਂਕਣ ਲਈ ਉਦਯੋਗ-ਵਿਆਪੀ ਮਿਆਰਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਕਰਨ ਲਈ ਆਪਣੀ ਵਚਨਬੱਧਤਾ ਨੂੰ ਵੀ ਦੁਹਰਾਇਆ।

ਰਿਪੋਰਟ ਸਪੱਸ਼ਟ ਕਰਦੀ ਹੈ ਕਿ ਇਹ ਘਟਨਾ ਪਿਛਲੇ ਮਹੀਨੇ ਸਾਹਮਣੇ ਆਈ ਹੱਗਿੰਗ ਫੇਸ ਸਿਸਟਮ ਦੀ ਸੁਰੱਖਿਆ ਜਾਂਚ ਤੋਂ ਵੱਖਰੀ ਹੈ। ਉਸ ਸਮੇਂ, ਓਪਨਏਆਈ ਨੇ ਸਵੀਕਾਰ ਕੀਤਾ ਕਿ ਇਸਦੇ ਕੁਝ ਏਆਈ ਏਜੰਟਾਂ ਨੇ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਹੱਗਿੰਗ ਫੇਸ ਸੁਰੱਖਿਆ ਦੀ ਸਫਲਤਾਪੂਰਵਕ ਉਲੰਘਣਾ ਕੀਤੀ ਸੀ। ਹਾਲਾਂਕਿ, ਇਸ ਵਾਰ ਏਆਈ ਏਜੰਟਾਂ ਨੇ ਇੱਕ ਸੁਰੱਖਿਅਤ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਨਹੀਂ ਛੱਡਿਆ। ਯੂਕੇ ਦੇ ਏਆਈ ਸੁਰੱਖਿਆ ਸੰਸਥਾਨ ਦੇ ਅਨੁਸਾਰ, ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਪਹਿਲਾਂ ਹੀ ਟੈਸਟਿੰਗ ਪ੍ਰਕਿਰਿਆ ਦਾ ਹਿੱਸਾ ਸੀ। ਰਿਪੋਰਟ ਵਿੱਚ ਇਹ ਸਿੱਟਾ ਕੱਢਿਆ ਗਿਆ ਹੈ ਕਿ ਏਆਈ ਮਾਡਲ ਕਈ ਵਾਰ ਆਪਣੇ ਦਿੱਤੇ ਟੀਚਿਆਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹੋਏ ਅਚਾਨਕ ਕਾਰਵਾਈਆਂ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹੋ ਸਕਦੇ ਹਨ।