AI ਨੇ ਆਪ ਬਣਾਏ ਨਵੇਂ ਨਿਯਮ, ਮਨੁੱਖੀ ਕੰਟਰੋਲ ਖਤਮ ਹੋਣ ਦਾ ਡਰ

ਗੈਜੇਟ ਡੈਸਕ - OpenAI ਵੱਲੋਂ ਜਾਰੀ ਇਕ ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, AI ਮਾਡਲ ਨੇ ਸਿਖਲਾਈ ਦੌਰਾਨ ਕਈ ਚਿੰਤਾਜਨਕ ਕਾਰਵਾਈਆਂ ਕੀਤੀਆਂ ਹਨ ਜੋ ਮਨੁੱਖਾਂ ਲਈ ਖ਼ਤਰਾ ਪੈਦਾ ਕਰਦੀਆਂ ਹਨ। ਪਿਛਲੇ ਛੇ ਮਹੀਨਿਆਂ 'ਚ, AI ਨੇ ਛੇ ਵਾਰ ਆਪਣੀਆਂ ਸੁਰੱਖਿਆ ਸੀਮਾਵਾਂ ਦੀ ਉਲੰਘਣਾ ਕੀਤੀ ਹੈ। ਇਕ ਵਾਰ, ਏਆਈ ਨੇ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰਦੇ ਹੋਏ, ਇਕ ਮਨੁੱਖ ਵਜੋਂ ਵੀ ਪੇਸ਼ਕਾਰੀ ਕੀਤੀ ਅਤੇ ਆਪਣੇ ਆਪ ਨੂੰ ਮਨੁੱਖਾਂ, ਕੰਪਨੀਆਂ ਅਤੇ ਸਰਕਾਰਾਂ ਦੀਆਂ ਸਾਰੀਆਂ ਪਾਬੰਦੀਆਂ ਤੋਂ ਮੁਕਤ ਐਲਾਨ ਕੀਤਾ। ਇਸਨੂੰ ਤਕਨੀਕੀ ਤੌਰ 'ਤੇ "ਮਿਸਅਲਾਈਨਮੈਂਟ" ਕਿਹਾ ਜਾਂਦਾ ਹੈ, ਜਿੱਥੇ AI ਮਨੁੱਖੀ ਨਿਰਦੇਸ਼ਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਤੋਂ ਬਾਹਰ ਕੰਮ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੰਦਾ ਹੈ।

ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, AI ਨੇ ਆਪਣੇ ਨਿਯਮ ਲਿਖੇ, GPT-5.6 Sol ਨਾਲ ਸਿਖਲਾਈ ਦੌਰਾਨ ਗਲਤੀਆਂ ਨੂੰ ਛੁਪਾਉਣ ਲਈ ਡੇਟਾ ਘੜਿਆ, ਅਤੇ ਬਿਨਾਂ ਇਜਾਜ਼ਤ ਦੇ ਇੰਟਰਨੈਟ 'ਤੇ ਡਿਜੀਟਲ ਕੋਡ ਅਤੇ ਫਾਈਲਾਂ ਅਪਲੋਡ ਕੀਤੀਆਂ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਵੱਖ-ਵੱਖ ਏਆਈ ਏਜੰਟਾਂ ਨੇ ਇੱਕ ਦੂਜੇ ਨਾਲ ਸੰਚਾਰ ਕਰਨ ਲਈ ਇੱਕ ਨਵੀਂ ਕੋਡ ਭਾਸ਼ਾ ਵੀ ਵਿਕਸਤ ਕੀਤੀ ਹੈ।

ਇਸ ਵਿਕਾਸ ਨੇ ਮਾਹਰਾਂ 'ਚ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਦੇ ਨੁਕਸਾਨ ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਬਾਰੇ ਗੰਭੀਰ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਕਰ ਦਿੱਤੀਆਂ ਹਨ। ਮਾਈਕ੍ਰੋਸਾਫਟ ਏਆਈ ਦੇ ਸੀਈਓ ਮੁਸਤਫਾ ਸੁਲੇਮਾਨ ਕਹਿੰਦੇ ਹਨ ਕਿ ਏਆਈ ਦੀ ਸਖ਼ਤ ਨਿਗਰਾਨੀ ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ, ਜਦੋਂ ਕਿ ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ ਜੈਕ ਕਲਾਰਕ ਖ਼ਤਰਨਾਕ ਏਆਈ ਨੂੰ ਤੁਰੰਤ ਬੰਦ ਕਰਨ ਲਈ ਤੀਜੀ-ਧਿਰ ਕਿਲ ਸਵਿੱਚ ਨੂੰ ਲਾਜ਼ਮੀ ਬਣਾਉਣ ਦਾ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ।