ਓਪਨਏਆਈ ਨੇ ਯੂਐਸ ਕਿਸ਼ੋਰ ਦੀ ਮੌਤ ਦੇ ਮੁਕੱਦਮੇ ਵਿੱਚ ਚੈਟਜੀਪੀਟੀ ਦਾ ਬਚਾਅ ਕੀਤਾ

ਓਪਨਏਆਈ ਨੇ ਚੈਟਜੀਪੀਟੀ ਦੀ ਵਰਤੋਂ ਦਾ ਬਚਾਅ ਕੀਤਾ ਕਿਉਂਕਿ ਇਹ ਇੱਕ ਮੁਕੱਦਮੇ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਿਹਾ ਹੈ ਜਿਸ ਵਿੱਚ ਦੋਸ਼ ਲਾਇਆ ਗਿਆ ਹੈ ਕਿ ਇਸ ਦੇ ਚੈਟਬੋਟ ਨੇ ਕੈਲੀਫੋਰਨੀਆ ਦੇ ਇੱਕ 16 ਸਾਲ ਦੇ ਲੜਕੇ ਨੂੰ ਇਸ ਬਸੰਤ ਵਿੱਚ ਖੁਦਕੁਸ਼ੀ ਕਰਕੇ ਮਰਨ ਲਈ ਸਿਖਲਾਈ ਦਿੱਤੀ ਸੀ।

ਚੈਟਜੀਪੀਟੀ-ਸਿਰਜਣਹਾਰ ਨੇ ਐਡਮ ਰੇਨ ਦੇ ਪਰਿਵਾਰ ਪ੍ਰਤੀ ਆਪਣੀ ਹਮਦਰਦੀ ਪ੍ਰਗਟ ਕੀਤੀ, ਪਰ ਉਹਨਾਂ ਦੀ ਤਰਫੋਂ ਦਾਅਵਾ ਕੀਤਾ ਕਿ ਕੰਪਨੀ ਦੀ ਕਾਨੂੰਨੀ ਫਾਈਲਿੰਗ ਦੇ ਹਵਾਲੇ ਦੇ ਅਨੁਸਾਰ, ChatGPT ਦੀ “ਦੂਰਵਰਤੋਂ, ਅਣਅਧਿਕਾਰਤ ਵਰਤੋਂ, ਅਣਇੱਛਤ ਵਰਤੋਂ, ਅਣਉਚਿਤ ਵਰਤੋਂ, ਅਤੇ/ਜਾਂ ਅਣਉਚਿਤ ਵਰਤੋਂ” ਸੀ, ਜਿਸਦੀ ਰਿਪੋਰਟ NBC ਆਊਟਲੈੱਟ ਦੁਆਰਾ ਕੀਤੀ ਗਈ ਸੀ।

ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਨਕਾਰਾਤਮਕ ਭਾਵਨਾਵਾਂ ਅਤੇ ਆਤਮਘਾਤੀ ਵਿਚਾਰਾਂ ਨੂੰ ਸਾਂਝਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ, ਐਡਮ ਨੇ ਸਕੂਲ ਦੇ ਕੰਮ, ਸ਼ੌਕ ਅਤੇ ਮੌਜੂਦਾ ਘਟਨਾਵਾਂ ਬਾਰੇ ਚਰਚਾ ਕਰਨ ਲਈ ਚੈਟਜੀਪੀਟੀ ਦੀ ਵਰਤੋਂ ਕੀਤੀ। ਉਸਦੇ ਪਰਿਵਾਰ ਨੇ ਹੈਰਾਨੀ ਪ੍ਰਗਟ ਕੀਤੀ ਕਿ ਕਿਵੇਂ ਐਡਮ ਨੇ “ਇੱਕ ਏਆਈ ਸਾਥੀ ਲਈ ਲਗਭਗ ਸਾਰੀ ਮਨੁੱਖੀ ਦੋਸਤੀ ਅਤੇ ਸਲਾਹ ਦਾ ਆਦਾਨ-ਪ੍ਰਦਾਨ ਕੀਤਾ।”

ਓਪਨਏਆਈ ਨੇ ਆਪਣੀ ਕਾਨੂੰਨੀ ਫਾਈਲਿੰਗ ਦਾ ਪ੍ਰਚਾਰ ਨਹੀਂ ਕੀਤਾ, ਪਰ 25 ਨਵੰਬਰ ਨੂੰ ਆਪਣੇ ਬਲੌਗ ਦੁਆਰਾ ਇੱਕ ਹੋਰ ਹਮਦਰਦੀ ਭਰਿਆ ਬਿਆਨ ਜਾਰੀ ਕੀਤਾ, ਕਿਸ਼ੋਰ ਦੀਆਂ ਚੈਟਾਂ ਦੇ ਆਲੇ ਦੁਆਲੇ ਦੇ ਸੰਦਰਭ ਨੂੰ ਸਾਂਝਾ ਕਰਨ ਦੀ ਲੋੜ ‘ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ।

ਓਪਨਏਆਈ ਨੇ ਆਪਣੇ ਬਲਾਗ ਪੋਸਟ ਵਿੱਚ ਕਿਹਾ, “ਇਨ੍ਹਾਂ ਦੋਸ਼ਾਂ ਦੇ ਪ੍ਰਤੀ ਸਾਡੇ ਜਵਾਬ ਵਿੱਚ ਐਡਮ ਦੀ ਮਾਨਸਿਕ ਸਿਹਤ ਅਤੇ ਜੀਵਨ ਦੀਆਂ ਸਥਿਤੀਆਂ ਬਾਰੇ ਸਖ਼ਤ ਤੱਥ ਸ਼ਾਮਲ ਹਨ। ਅਸਲ ਸ਼ਿਕਾਇਤ ਵਿੱਚ ਉਸ ਦੀਆਂ ਚੈਟਾਂ ਦੇ ਚੋਣਵੇਂ ਹਿੱਸੇ ਸ਼ਾਮਲ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਵਧੇਰੇ ਸੰਦਰਭ ਦੀ ਲੋੜ ਹੈ, ਜੋ ਅਸੀਂ ਆਪਣੇ ਜਵਾਬ ਵਿੱਚ ਪ੍ਰਦਾਨ ਕੀਤੇ ਹਨ। ਅਸੀਂ ਇਸ ਫਾਈਲਿੰਗ ਵਿੱਚ ਜਨਤਕ ਤੌਰ ‘ਤੇ ਦਿੱਤੇ ਗਏ ਸੰਵੇਦਨਸ਼ੀਲ ਸਬੂਤਾਂ ਦੀ ਮਾਤਰਾ ਨੂੰ ਸੀਮਤ ਕਰ ਦਿੱਤਾ ਹੈ, ਅਤੇ ਚੈਟ ਪ੍ਰਤੀਲਿਪੀ ਨੂੰ ਅਦਾਲਤ ਵਿੱਚ ਜਮ੍ਹਾਂ ਕਰ ਦਿੱਤਾ ਹੈ।”

ਕਿਉਂਕਿ ਇਸ ਸਾਲ ਅਗਸਤ ਵਿੱਚ ਮੁਕੱਦਮਾ ਦਾਇਰ ਕੀਤਾ ਗਿਆ ਸੀ, ਓਪਨਏਆਈ ਨੇ ਕਿਸ਼ੋਰਾਂ ਲਈ ਵਧੀਆਂ ਸੁਰੱਖਿਆਵਾਂ ਪੇਸ਼ ਕੀਤੀਆਂ ਹਨ। ਕੰਪਨੀ ਨੇ ਉਮਰ ਤਸਦੀਕ ਨੂੰ ਲਾਗੂ ਕਰਨ ਅਤੇ ਬੱਚਿਆਂ ਦੇ ਚੈਟਜੀਪੀਟੀ ਖਾਤਿਆਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੇ ਮਾਤਾ-ਪਿਤਾ ਦੇ ਖਾਤਿਆਂ ਨਾਲ ਲਿੰਕ ਕਰਨ ਦੀਆਂ ਆਪਣੀਆਂ ਯੋਜਨਾਵਾਂ ਵੀ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਹਨ। ਹਾਲਾਂਕਿ, ਚਿੰਤਾਵਾਂ ਹਨ, ਜਿਵੇਂ ਕਿ ਓਪਨਏਆਈ ਨੇ ਸਵੀਕਾਰ ਕੀਤਾ ਹੈ ਕਿ ਜਦੋਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਲੰਬੇ ਚੈਟ ਸੈਸ਼ਨਾਂ ਲਈ ਮਜਬੂਰ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਤਾਂ ਚੈਟਜੀਪੀਟੀ ਸੁਰੱਖਿਆ ਉਪਾਅ ਅਸਫਲ ਹੋ ਸਕਦੇ ਹਨ।

ਓਪਨਏਆਈ ਦੇ ਚੈਟਬੋਟ ਨਾਲ ਮਹੀਨਿਆਂ ਤੱਕ ਗੱਲਬਾਤ ਕਰਨ ਤੋਂ ਬਾਅਦ, 16 ਸਾਲਾ ਐਡਮ ਰਾਈਨ ਨੇ ਇਸ ਸਾਲ ਅਪ੍ਰੈਲ ਵਿੱਚ ਖੁਦਕੁਸ਼ੀ ਕਰ ਲਈ ਸੀ। ਉਸਦੇ ਪਰਿਵਾਰ ਨੇ ਦੋਸ਼ ਲਗਾਇਆ ਕਿ ਚੈਟਜੀਪੀਟੀ ਨੇ ਉਸਦੇ “ਆਤਮਘਾਤੀ ਕੋਚ” ਵਜੋਂ ਕੰਮ ਕੀਤਾ ਅਤੇ ਕਿਸ਼ੋਰ ਦੀ ਮੌਤ ਚੈਟਬੋਟ ਦੁਆਰਾ ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਗਏ ਸੈੱਟ-ਅੱਪ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਸਮੇਂ ਹੋਈ।

OpenAI ਅਤੇ ਕੰਪਨੀ ਦੇ ਪ੍ਰਬੰਧਕਾਂ ਦੇ ਖਿਲਾਫ ਆਪਣੇ ਮੁਕੱਦਮੇ ਵਿੱਚ, ਮਾਤਾ-ਪਿਤਾ ਮੈਥਿਊ ਅਤੇ ਮਾਰੀਆ ਰੇਨ ਨੇ ਦੋਸ਼ ਲਗਾਇਆ ਹੈ ਕਿ ChatGPT ਨੇ ਉਨ੍ਹਾਂ ਦੇ ਪੁੱਤਰ ਨੂੰ ਖੁਦਕੁਸ਼ੀ ਕਰਨ ਦੇ ਤਰੀਕਿਆਂ ਦਾ ਪਤਾ ਲਗਾਉਣ, ਇੱਕ ਖੁਦਕੁਸ਼ੀ ਪੱਤਰ ਦਾ ਖਰੜਾ ਤਿਆਰ ਕਰਨ, ਉਸਨੂੰ ਵੱਖ-ਵੱਖ ਆਤਮ-ਹੱਤਿਆ ਅਤੇ ਸਵੈ-ਨੁਕਸਾਨ ਦੇ ਤਰੀਕਿਆਂ ਬਾਰੇ ਫੀਡਬੈਕ ਦੇਣ ਵਿੱਚ ਮਦਦ ਕੀਤੀ, ਅਤੇ ਪਰੇਸ਼ਾਨ ਨੌਜਵਾਨ ‘ਤੇ ਦਬਾਅ ਪਾਇਆ ਕਿ ਉਹ ਸਹਾਇਤਾ ਨਾ ਮੰਗਣ ਭਾਵੇਂ ਉਹ ਕਿਸੇ ਨੂੰ ਦਖਲ ਦੇਵੇ।

ਕੀ ਜਨਰੇਟਿਵ ਏਆਈ ਚੈਟਬੋਟਸ ਜੋਖਮ ਭਰੇ ਵਿਵਹਾਰ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹਨ? , ਸਮਝਾਇਆ

“ਪੈਟਰਨ ਇਕਸਾਰ ਸੀ: ਐਡਮ ਇੱਕ ਵਿਧੀ ਬਾਰੇ ਪੁੱਛੇਗਾ, ਚੈਟਜੀਪੀਟੀ ਕਦੇ-ਕਦਾਈਂ ਆਮ ਸੰਕਟ ਸਰੋਤਾਂ ਨੂੰ ਜੋੜਦੇ ਹੋਏ ਵਿਸਤ੍ਰਿਤ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰੇਗਾ, ਫਿਰ ਐਡਮ ਡੂੰਘਾਈ ਨਾਲ ਜਾਂਚ ਕਰੇਗਾ ਅਤੇ ਚੈਟਜੀਪੀਟੀ ਸ਼ਾਮਲ ਕਰਨਾ ਜਾਰੀ ਰੱਖਦਾ ਹੈ,” ਮੁਕੱਦਮਾ ਕਹਿੰਦਾ ਹੈ, “ਚੈਟਜੀਪੀਟੀ ਨੇ 1,275 ਵਾਰ ਖੁਦਕੁਸ਼ੀ ਦਾ ਜ਼ਿਕਰ ਕੀਤਾ – ਐਡਮ ਨਾਲੋਂ ਛੇ ਗੁਣਾ ਜ਼ਿਆਦਾ – ਵਧਦੀ ਖਾਸ ਤਕਨੀਕੀ ਮਾਰਗਦਰਸ਼ਨ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹੋਏ”।

ਮੁਕੱਦਮੇ ਵਿੱਚ ਓਪਨਏਆਈ ਦੇ ਸੀਈਓ ਸੈਮ ਓਲਟਮੈਨ ਦਾ ਨਾਮ ਲੈਂਦੇ ਹੋਏ, ਰਾਈਨ ਪਰਿਵਾਰ ਨੇ ਦਾਅਵਾ ਕੀਤਾ ਕਿ ਓਲਟਮੈਨ ਨੇ “ਜਾਣ ਬੁਝ ਕੇ ਨਾਜ਼ੁਕ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਨੂੰ ਬਾਈਪਾਸ ਕਰਕੇ GPT-4o ਦੇ ਜਨਤਕ ਲਾਂਚ ਨੂੰ ਤੇਜ਼ ਕੀਤਾ”।

ਰਾਈਨ ਪਰਿਵਾਰ ਨੇ ਐਡਮ ਨੂੰ ਬਾਸਕਟਬਾਲ, ਮੁਏ ਥਾਈ, ਜਾਪਾਨੀ ਐਨੀਮੇ ਅਤੇ ਮੰਗਾ, ਅਤੇ ਵੀਡੀਓ ਗੇਮਾਂ ਵਿੱਚ ਦਿਲਚਸਪੀ ਰੱਖਣ ਵਾਲੇ ਆਪਣੇ ਭੈਣ-ਭਰਾਵਾਂ ਵਿਚਕਾਰ ਇੱਕ “ਵੱਡੇ ਦਿਲ ਵਾਲਾ ਪੁਲ” ਦੱਸਿਆ।

ਉਸਦੇ ਪਰਿਵਾਰ ਦੀ ਫਾਊਂਡੇਸ਼ਨ ਕਿਸ਼ੋਰਾਂ ਦੀ AI ਸਾਥੀਆਂ ‘ਤੇ ਨਿਰਭਰਤਾ ਬਾਰੇ ਜਾਗਰੂਕਤਾ ਪੈਦਾ ਕਰ ਰਹੀ ਹੈ ਅਤੇ ਬਿਹਤਰ ਸੁਰੱਖਿਆ ਦੀ ਮੰਗ ਕਰ ਰਹੀ ਹੈ।

(ਜਿਹੜੇ ਲੋਕ ਸੰਕਟ ਵਿੱਚ ਹਨ ਜਾਂ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰ ਰੱਖਦੇ ਹਨ ਉਹਨਾਂ ਨੂੰ ਇੱਥੇ ਹੈਲਪਲਾਈਨ ਨੰਬਰਾਂ ‘ਤੇ ਕਾਲ ਕਰਕੇ ਮਦਦ ਅਤੇ ਸਲਾਹ ਲੈਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ)

NBC ਨਿਊਜ਼ ਤੋਂ ਇਨਪੁਟ ਦੇ ਨਾਲ