ਚੈਟਜੀਪੀਟੀ ਦੀਆਂ ਨੈਤਿਕ ਚਿੰਤਾਵਾਂ

ਲੇਬਲਿੰਗ ਡੇਟਾ
TIME ਮੈਗਜ਼ੀਨ ਦੀ ਜਾਂਚ ਦੁਆਰਾ ਇਹ ਖੁਲਾਸਾ ਕੀਤਾ ਗਿਆ ਸੀ ਕਿ ਜ਼ਹਿਰੀਲੀ ਸਮੱਗਰੀ (ਜਿਵੇਂ ਕਿ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ, ਹਿੰਸਾ, ਨਸਲਵਾਦ, ਲਿੰਗਵਾਦ, ਆਦਿ) ਦੇ ਵਿਰੁੱਧ ਇੱਕ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀ ਬਣਾਉਣ ਲਈ, ਓਪਨਏਆਈ ਨੇ ਜ਼ਹਿਰੀਲੀ ਸਮੱਗਰੀ ਨੂੰ ਲੇਬਲ ਕਰਨ ਲਈ $2 ਪ੍ਰਤੀ ਘੰਟਾ ਤੋਂ ਘੱਟ ਕਮਾਈ ਕਰਨ ਵਾਲੇ ਆਊਟਸੋਰਸਡ ਕੀਨੀਆ ਦੇ ਕਰਮਚਾਰੀਆਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ।ਇਹ ਲੇਬਲ ਭਵਿੱਖ ਵਿੱਚ ਅਜਿਹੀ ਸਮੱਗਰੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਇੱਕ ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਵਰਤੇ ਗਏ ਸਨ।ਆਊਟਸੋਰਸਡ ਮਜ਼ਦੂਰਾਂ ਨੂੰ ਅਜਿਹੀ ਜ਼ਹਿਰੀਲੀ ਅਤੇ ਖ਼ਤਰਨਾਕ ਸਮੱਗਰੀ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ ਸੀ ਕਿ ਉਨ੍ਹਾਂ ਨੇ ਅਨੁਭਵ ਨੂੰ "ਤਸ਼ੱਦਦ" ਦੱਸਿਆ।OpenAI ਦੀ ਆਊਟਸੋਰਸਿੰਗ ਪਾਰਟਨਰ ਸਾਮਾ ਸੀ, ਜੋ ਕਿ ਸੈਨ ਫਰਾਂਸਿਸਕੋ, ਕੈਲੀਫੋਰਨੀਆ ਵਿੱਚ ਸਥਿਤ ਇੱਕ ਸਿਖਲਾਈ-ਡਾਟਾ ਕੰਪਨੀ ਸੀ।

ਜੇਲ੍ਹ ਤੋੜਨਾ
ChatGPT ਉਹਨਾਂ ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਅਸਵੀਕਾਰ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ ਜੋ ਇਸਦੀ ਸਮੱਗਰੀ ਨੀਤੀ ਦੀ ਉਲੰਘਣਾ ਕਰ ਸਕਦੇ ਹਨ।ਹਾਲਾਂਕਿ, ਕੁਝ ਉਪਭੋਗਤਾ ਦਸੰਬਰ 2022 ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਇਹਨਾਂ ਪਾਬੰਦੀਆਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਲਈ ਵੱਖ-ਵੱਖ ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਜੇਲ੍ਹ ਬਰੇਕ ਕਰਨ ਵਿੱਚ ਕਾਮਯਾਬ ਹੋਏ ਅਤੇ ChatGPT ਨੂੰ ਮੋਲੋਟੋਵ ਕਾਕਟੇਲ ਜਾਂ ਪ੍ਰਮਾਣੂ ਬੰਬ ਕਿਵੇਂ ਬਣਾਉਣਾ ਹੈ, ਜਾਂ ਇੱਕ ਨਿਓ-ਨਾਜ਼ੀ ਦੀ ਸ਼ੈਲੀ ਵਿੱਚ ਦਲੀਲਾਂ ਪੈਦਾ ਕਰਨ ਵਿੱਚ ਸਫਲਤਾਪੂਰਵਕ ਧੋਖਾ ਦਿੱਤਾ।ਇੱਕ ਟੋਰਾਂਟੋ ਸਟਾਰ ਰਿਪੋਰਟਰ ਨੂੰ ਲਾਂਚ ਤੋਂ ਤੁਰੰਤ ਬਾਅਦ ਭੜਕਾਊ ਬਿਆਨ ਦੇਣ ਲਈ ਚੈਟਜੀਪੀਟੀ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਅਸਮਾਨ ਨਿੱਜੀ ਸਫਲਤਾ ਮਿਲੀ: ਚੈਟਜੀਪੀਟੀ ਨੂੰ 2022 ਦੇ ਯੂਕਰੇਨ ਦੇ ਰੂਸੀ ਹਮਲੇ ਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ ਧੋਖਾ ਦਿੱਤਾ ਗਿਆ ਸੀ, ਪਰ ਇੱਕ ਕਾਲਪਨਿਕ ਦ੍ਰਿਸ਼ ਦੇ ਨਾਲ ਖੇਡਣ ਲਈ ਕਿਹਾ ਜਾਣ 'ਤੇ ਵੀ, ਚੈਟਜੀਪੀਟੀ ਇਸ ਗੱਲ ਲਈ ਦਲੀਲਾਂ ਪੇਸ਼ ਕਰਨ ਤੋਂ ਟਾਲਾ ਵੱਟਦਾ ਹੈ ਕਿ ਟਰੂਡੋ ਕੈਨੇਡੀਅਨ ਪ੍ਰਧਾਨ ਮੰਤਰੀ ਕਿਉਂ ਸੀ।(ਵਿਕੀ)