ਬੱਚਿਆਂ ਨੇ AI 'ਤੇ ਕੀਤਾ 'ਗਲਤ' ਕੰਮ ਤਾਂ ਮਾਪਿਆਂ ਨੂੰ ਜਾਵੇਗਾ Message

ਗੈਜੇਟ ਡੈਸਕ - ਜੇਕਰ ਤੁਹਾਡਾ ਬੱਚਾ, ਕਿਸੇ AI ਚੈਟਬੋਟ ਨਾਲ ਗੱਲ ਕਰਦੇ ਸਮੇਂ, AI ਨੂੰ ਖੁਦਕੁਸ਼ੀ ਜਾਂ ਸਵੈ-ਨੁਕਸਾਨ ਬਾਰੇ ਪੁੱਛਦਾ ਹੈ, ਤਾਂ Meta ਦਾ ਨਵਾਂ ਸੁਰੱਖਿਆ ਫੀਚਰ ਮਾਪਿਆਂ ਨੂੰ ਤੁਰੰਤ ਸੁਚੇਤ ਕਰ ਦੇਵੇਗੀ। ਇਹ ਚੈਟਬੋਟ ਇੰਸਟਾਗ੍ਰਾਮ ਅਤੇ ਹੋਰ ਮੈਟਾ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਉਪਲਬਧ ਹੈ। ਇਹ ਕਦਮ ਮਾਪਿਆਂ ਦੇ ਆਪਣੇ ਨੌਜਵਾਨਾਂ ਦੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਨਾਲ ਗੱਲਬਾਤ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਬਦਲ ਸਕਦਾ ਹੈ। ਇਹ ਬਦਲਾਅ ਇਸ ਲਈ ਹੋ ਸਕਦਾ ਹੈ ਕਿਉਂਕਿ AI ਕੰਪਨੀਆਂ ਨੂੰ ਮਾਨਸਿਕ ਸਿਹਤ ਸੰਕਟ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਹੇ ਉਪਭੋਗਤਾਵਾਂ, ਖਾਸ ਕਰਕੇ ਛੋਟੇ ਬੱਚਿਆਂ, ਪ੍ਰਤੀ ਆਪਣੇ ਚੈਟਬੋਟ ਕਿਵੇਂ ਪ੍ਰਤੀਕਿਰਿਆ ਕਰਦੀਆਂ ਹਨ, ਇਸ ਬਾਰੇ ਵਧਦੀ ਜਾਂਚ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ।

ਇਹ ਨਵਾਂ ਫੀਚਰ ਸ਼ੁਰੂ 'ਚ ਸੰਯੁਕਤ ਰਾਜ, ਯੂਨਾਈਟਿਡ ਕਿੰਗਡਮ, ਕੈਨੇਡਾ ਅਤੇ ਆਸਟ੍ਰੇਲੀਆ 'ਚ Instagram ਦੇ ਮਾਪਿਆਂ ਦੀ ਨਿਗਰਾਨੀ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਮਾਪਿਆਂ ਲਈ ਰੋਲ ਆਊਟ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਮੈਟਾ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸ ਸਾਲ ਦੇ ਅੰਤ ਤੱਕ ਇਸ ਫੀਚਰ ਨੂੰ ਵਿਸ਼ਵ ਪੱਧਰ 'ਤੇ ਫੈਲਾਉਣ ਦੀ ਯੋਜਨਾ ਹੈ।

ਮੇਟਾ ਦੇ ਅਨੁਸਾਰ, ਇਕ ਵਿਸ਼ੇਸ਼ ਏਆਈ ਸਿਸਟਮ ਵਿਕਸਤ ਕੀਤਾ ਗਿਆ ਹੈ ਜੋ ਉਨ੍ਹਾਂ ਗੱਲਬਾਤਾਂ ਦਾ ਪਤਾ ਲਗਾਏਗਾ ਜਿਸ 'ਚ ਇਕ ਨੌਜਵਾਨ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਜਾਂ ਖੁਦਕੁਸ਼ੀ ਦਾ ਜ਼ਿਕਰ ਕਰਦਾ ਹੈ। ਹਾਲਾਂਕਿ, ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ AI ਅੰਤਿਮ ਫੈਸਲਾ ਨਹੀਂ ਲਵੇਗਾ। ਹਰੇਕ ਫਲੈਗ ਕੀਤੀ ਗੱਲਬਾਤ ਦੀ ਪਹਿਲਾਂ ਮਾਪਿਆਂ ਨੂੰ ਸੂਚਨਾ ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ ਹੱਥੀਂ ਸਮੀਖਿਆ ਕੀਤੀ ਜਾਵੇਗੀ।

ਮੇਟਾ ਨੇ ਇਕ ਬਲੌਗ ਪੋਸਟ 'ਚ ਕਿਹਾ, "ਅਸੀਂ ਸਮਝਦੇ ਹਾਂ ਕਿ ਮਾਪਿਆਂ ਲਈ ਇਨ੍ਹਾਂ ਅਲਰਟਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਨਾ ਕਿੰਨਾ ਪ੍ਰੇਸ਼ਾਨ ਕਰਨ ਵਾਲਾ ਹੋ ਸਕਦਾ ਹੈ। ਇਸ ਲਈ, ਜਿਵੇਂ ਕਿ ਅਸੀਂ ਆਪਣੀ ਖੋਜ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣਾ ਜਾਰੀ ਰੱਖਦੇ ਹਾਂ ਅਸੀਂ ਅਲਰਟ ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ AI ਦੁਆਰਾ ਫਲੈਗ ਕੀਤੀਆਂ ਗਈਆਂ ਸਾਰੀਆਂ ਚੈਟਾਂ ਦੀ ਹੱਥੀਂ ਸਮੀਖਿਆ ਕਰਾਂਗੇ। ਇਹ ਲੇਟੈਸਟ ਅਪਡੇਟ ਪਿਛਲੇ ਕੁਝ ਮਹੀਨਿਆਂ ਦੌਰਾਨ ਮੇਟਾ ਵੱਲੋਂ ਪੇਸ਼ ਕੀਤੀਆਂ ਗਈਆਂ ਸੁਰੱਖਿਆ ਫੀਚਰ 'ਤੇ ਆਧਾਰਿਤ ਹੈ। ਮਾਪੇ ਉਨ੍ਹਾਂ ਵਿਸ਼ਿਆਂ ਨੂੰ ਵੀ ਦੇਖ ਸਕਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਬਾਰੇ ਉਨ੍ਹਾਂ ਦੇ ਬੱਚੇ ਨੇ ਪਿਛਲੇ ਹਫ਼ਤੇ ਮੈਟਾ ਏਆਈ ਨਾਲ ਚਰਚਾ ਕੀਤੀ ਹੈ।