OpenAI ਨੇ ਆਪਣੇ AI ਮਾਡਲ ''ਚ ਹੋਏ 6 ਬੇਕਾਬੂ ਵਿਹਾਰ ''ਤੇ ਚੁੱਕੇ ਸਵਾਲ !  ਪੜ੍ਹੋ ਪੂਰੀ ਖਬਰ

ਗੈਜੇਟ ਡੈਸਕ - ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦੇ ਖੇਤਰ 'ਚ ਇਕ ਮੋਹਰੀ ਕੰਪਨੀ, OpenAI ਨੇ ਆਪਣੇ AI ਮਾਡਲਾਂ ਦੀ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਦਰਜ ਕੀਤੇ ਗਏ ਅਸਧਾਰਨ ਅਤੇ ਬੇਕਾਬੂ ਵਿਵਹਾਰ (ਗਲਤ ਅਲਾਈਨਮੈਂਟ) ਦੀਆਂ ਛੇ ਵੱਖ-ਵੱਖ ਰਿਪੋਰਟਾਂ ਜਾਰੀ ਕੀਤੀਆਂ ਹਨ। "AI ਅਲਾਈਨਮੈਂਟ" ਦਾ ਸਿੱਧਾ ਅਰਥ ਹੈ AI ਸਿਸਟਮਾਂ ਨੂੰ ਮਨੁੱਖੀ ਮੁੱਲਾਂ, ਸੁਰੱਖਿਆ ਮਾਪਦੰਡਾਂ ਅਤੇ ਚੰਗੇ ਇਰਾਦਿਆਂ ਦੇ ਅਨੁਸਾਰ ਕੰਮ ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਣਾ, ਤਾਂ ਜੋ ਉਹ ਮਨੁੱਖੀ ਨਿਰਦੇਸ਼ਾਂ ਤੋਂ ਭਟਕ ਨਾ ਜਾਣ।

ਇਸ ਦੌਰਾਨ ਇਕ ਨਵਾਂ ਢਾਂਚਾ ਪੇਸ਼ ਕਰਦੇ ਹੋਏ, ਕੰਪਨੀ ਨੇ ਸਪੱਸ਼ਟ ਕੀਤਾ ਹੈ ਕਿ ਭਵਿੱਖ 'ਚ, ਕਿਸੇ ਵੀ ਤਕਨੀਕੀ ਗਲਤੀ ਜਾਂ ਅਸਾਧਾਰਨ ਵਿਵਹਾਰ ਨੂੰ ਤੁਰੰਤ ਦੁਨੀਆ ਨਾਲ ਸਾਂਝਾ ਕੀਤਾ ਜਾਵੇਗਾ, ਭਾਵੇਂ ਇਸਦਾ ਪੂਰਾ ਹੱਲ ਜਾਂ ਕਾਰਨ ਅਜੇ ਪਤਾ ਨਾ ਹੋਵੇ। OpenAI ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਏਆਈ ਉਦਯੋਗ ਨੇ ਅਜੇ ਤੱਕ ਨਿਗਰਾਨੀ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਦੀਆਂ ਚੁਣੌਤੀਆਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਹੱਲ ਨਹੀਂ ਕੀਤਾ ਹੈ, ਇਸ ਲਈ ਵਪਾਰਕ ਮੁਕਾਬਲੇ ਲਈ ਮਜ਼ਬੂਤ ​​ਸੁਰੱਖਿਆ ਤੋਂ ਬਿਨਾਂ ਏਆਈ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਤ ਕਰਨਾ ਜੋਖਮ ਭਰਿਆ ਹੋ ਸਕਦਾ ਹੈ।

ਕੰਪਨੀ ਕਹਿੰਦੀ ਹੈ ਕਿ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਆਪਣੇ ਮਾਡਲਾਂ 'ਚ ਖਾਮੀਆਂ ਅਤੇ ਅਚਾਨਕ ਵਿਵਹਾਰ ਨੂੰ ਖੁੱਲ੍ਹ ਕੇ ਸਾਂਝਾ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਤਾਂ ਜੋ ਪੂਰਾ ਉਦਯੋਗ ਇਨ੍ਹਾਂ ਤਕਨੀਕੀ ਕਮਜ਼ੋਰੀਆਂ ਅਤੇ ਸੁਰੱਖਿਆ ਖਾਮੀਆਂ ਤੋਂ ਸਿੱਖ ਸਕੇ। ਇਸ ਵਿਸ਼ੇ 'ਤੇ ਬੋਲਦੇ ਹੋਏ, ਓਪਨਏਆਈ ਦੇ ਸੀਈਓ ਸੈਮ ਆਲਟਮੈਨ ਨੇ ਜ਼ੋਰ ਦੇ ਕੇ ਕਿਹਾ ਕਿ ਏਆਈ ਸੁਰੱਖਿਆ ਕਿਸੇ ਵੀ ਸ਼ਰਤਾਂ ਜਾਂ ਸਮਝੌਤੇ ਦੇ ਅਧੀਨ ਨਹੀਂ ਹੋਣੀ ਚਾਹੀਦੀ। ਦੁਨੀਆ ਨੂੰ ਭਰੋਸਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕੰਪਨੀਆਂ ਵਪਾਰਕ ਦਬਾਅ ਤੋਂ ਉੱਪਰ ਉੱਠਣਗੀਆਂ ਅਤੇ ਸਹੀ ਕਦਮ ਚੁੱਕਣਗੀਆਂ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਮੁਕਾਬਲੇ ਦੀ ਭਾਲ 'ਚ ਸੁਰੱਖਿਆ ਮਾਪਦੰਡਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨਾ ਲੋਕਾਂ 'ਚ ਡਰ ਪੈਦਾ ਕਰਦਾ ਹੈ, ਇਸ ਲਈ ਪੂਰੇ ਉਦਯੋਗ ਨੂੰ ਇਕੱਠੇ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਸੁਰੱਖਿਅਤ ਵਿਕਾਸ ਲਈ ਲੋੜੀਂਦਾ ਸਮਾਂ ਸਮਰਪਿਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।

ਇਹ ਸਾਰਾ ਵਿਕਾਸ ਅਜਿਹੇ ਸਮੇਂ ਹੋਇਆ ਹੈ ਜਦੋਂ ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਖੋਜਕਰਤਾ ਜੈਕਬ ਕੋਕਸਨ ਦੇ ਹਾਲ ਹੀ ਵਿੱਚ ਅਸਤੀਫਾ ਦੇਣ ਤੋਂ ਬਾਅਦ, 'ਸੁਪਰਇੰਟੈਲੀਜੈਂਟ' ਪ੍ਰਣਾਲੀਆਂ ਦੁਆਰਾ ਮਨੁੱਖਤਾ ਨੂੰ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਖ਼ਤਰਿਆਂ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ, ਏਆਈ ਦੀ ਗਤੀ ਨੂੰ ਹੌਲੀ ਕਰਨ ਅਤੇ ਸਖਤ ਨਿਯਮ ਲਾਗੂ ਕਰਨ ਨੂੰ ਲੈ ਕੇ ਇੱਕ ਗੰਭੀਰ ਵਿਸ਼ਵਵਿਆਪੀ ਬਹਿਸ ਛਿੜ ਗਈ ਹੈ।