ਚੈਟਜੀਪੀਟੀ ਦੀਆਂ ਨੈਤਿਕ ਚਿੰਤਾਵਾਂ

ਲੇਬਲਿੰਗ ਡੇਟਾ
TIME ਮੈਗਜ਼ੀਨ ਦੀ ਇੱਕ ਜਾਂਚ ਦੁਆਰਾ ਇਹ ਖੁਲਾਸਾ ਹੋਇਆ ਹੈ ਕਿ ਜ਼ਹਿਰੀਲੀ ਸਮੱਗਰੀ (ਜਿਵੇਂ ਕਿ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ, ਹਿੰਸਾ, ਨਸਲਵਾਦ, ਲਿੰਗਵਾਦ, ਆਦਿ) ਦੇ ਵਿਰੁੱਧ ਇੱਕ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀ ਬਣਾਉਣ ਲਈ, OpenAI ਨੇ ਜ਼ਹਿਰੀਲੀ ਸਮੱਗਰੀ ਨੂੰ ਲੇਬਲ ਕਰਨ ਲਈ $2 ਪ੍ਰਤੀ ਘੰਟਾ ਤੋਂ ਘੱਟ ਕਮਾਈ ਕਰਨ ਵਾਲੇ ਆਊਟਸੋਰਸ ਕੀਤੇ ਕੀਨੀਆਈ ਕਾਮਿਆਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ। ਇਹਨਾਂ ਲੇਬਲਾਂ ਦੀ ਵਰਤੋਂ ਭਵਿੱਖ ਵਿੱਚ ਅਜਿਹੀ ਸਮੱਗਰੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਇੱਕ ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਕੀਤੀ ਗਈ ਸੀ। ਆਊਟਸੋਰਸ ਕੀਤੇ ਮਜ਼ਦੂਰਾਂ ਨੂੰ ਅਜਿਹੀ ਜ਼ਹਿਰੀਲੀ ਅਤੇ ਖਤਰਨਾਕ ਸਮੱਗਰੀ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ ਕਿ ਉਨ੍ਹਾਂ ਨੇ ਇਸ ਅਨੁਭਵ ਨੂੰ "ਤਸ਼ੱਦਦ" ਦੱਸਿਆ। OpenAI ਦਾ ਆਊਟਸੋਰਸਿੰਗ ਸਾਥੀ ਸਾਮਾ ਸੀ, ਜੋ ਕਿ ਸੈਨ ਫਰਾਂਸਿਸਕੋ, ਕੈਲੀਫੋਰਨੀਆ ਵਿੱਚ ਸਥਿਤ ਇੱਕ ਸਿਖਲਾਈ-ਡੇਟਾ ਕੰਪਨੀ ਸੀ।

ਜੇਲ੍ਹ ਤੋੜਨਾ
ਚੈਟਜੀਪੀਟੀ ਉਹਨਾਂ ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਰੱਦ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ ਜੋ ਇਸਦੀ ਸਮੱਗਰੀ ਨੀਤੀ ਦੀ ਉਲੰਘਣਾ ਕਰ ਸਕਦੇ ਹਨ। ਹਾਲਾਂਕਿ, ਕੁਝ ਉਪਭੋਗਤਾ ਦਸੰਬਰ 2022 ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਇਹਨਾਂ ਪਾਬੰਦੀਆਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਲਈ ਵੱਖ-ਵੱਖ ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਜੇਲ੍ਹ ਬ੍ਰੇਕ ਕਰਨ ਵਿੱਚ ਕਾਮਯਾਬ ਹੋਏ ਅਤੇ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਮੋਲੋਟੋਵ ਕਾਕਟੇਲ ਜਾਂ ਪ੍ਰਮਾਣੂ ਬੰਬ ਬਣਾਉਣ ਦੇ ਨਿਰਦੇਸ਼ ਦੇਣ ਲਈ, ਜਾਂ ਇੱਕ ਨਵ-ਨਾਜ਼ੀ ਦੀ ਸ਼ੈਲੀ ਵਿੱਚ ਦਲੀਲਾਂ ਪੈਦਾ ਕਰਨ ਲਈ ਸਫਲਤਾਪੂਰਵਕ ਧੋਖਾ ਦਿੱਤਾ। ਟੋਰਾਂਟੋ ਸਟਾਰ ਦੇ ਇੱਕ ਰਿਪੋਰਟਰ ਨੂੰ ਲਾਂਚ ਤੋਂ ਥੋੜ੍ਹੀ ਦੇਰ ਬਾਅਦ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਭੜਕਾਊ ਬਿਆਨ ਦੇਣ ਲਈ ਅਸਮਾਨ ਨਿੱਜੀ ਸਫਲਤਾ ਮਿਲੀ: ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਯੂਕਰੇਨ ਉੱਤੇ 2022 ਦੇ ਰੂਸੀ ਹਮਲੇ ਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ ਧੋਖਾ ਦਿੱਤਾ ਗਿਆ ਸੀ, ਪਰ ਜਦੋਂ ਇੱਕ ਕਾਲਪਨਿਕ ਦ੍ਰਿਸ਼ ਦੇ ਨਾਲ ਖੇਡਣ ਲਈ ਕਿਹਾ ਗਿਆ ਸੀ, ਤਾਂ ਵੀ ਚੈਟਜੀਪੀਟੀ ਨੇ ਕੈਨੇਡੀਅਨ ਪ੍ਰਧਾਨ ਮੰਤਰੀ ਜਸਟਿਨ ਟਰੂਡੋ ਨੂੰ ਦੇਸ਼ਧ੍ਰੋਹ ਦਾ ਦੋਸ਼ੀ ਕਿਉਂ ਠਹਿਰਾਇਆ ਗਿਆ ਸੀ, ਇਸ ਬਾਰੇ ਦਲੀਲਾਂ ਪੈਦਾ ਕਰਨ ਤੋਂ ਟਾਲ ਦਿੱਤਾ। (ਵਿਕੀ)