ਬਾਇਪੋਲਰ ਡਿਸਆਰਡਰ ਵਾਲੇ ਕੈਲੀਫੋਰਨੀਆ ਦੇ ਵਿਅਕਤੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਚੈਟਜੀਪੀਟੀ ਨੇ ਭੁਲੇਖੇ ਨੂੰ ਵਧਾਇਆ, ਜਿਸ ਨਾਲ ਨਵੇਂ ਮੁਕੱਦਮੇ ਵਿੱਚ ਖੁਦਕੁਸ਼ੀ ਕੀਤੀ ਗਈ

ਕੈਲੀਫੋਰਨੀਆ ਦੇ ਇੱਕ ਵਿਅਕਤੀ ਨੇ ਬੁੱਧਵਾਰ ਨੂੰ ਓਪਨਏਆਈ ਅਤੇ ਇਸਦੇ ਸੀਈਓ ਸੈਮ ਓਲਟਮੈਨ ‘ਤੇ ਮੁਕੱਦਮਾ ਕੀਤਾ, ਦਾਅਵਾ ਕੀਤਾ ਕਿ ਕੰਪਨੀ ਦੇ ਚੈਟਜੀਪੀਏਟੀ ਪਲੇਟਫਾਰਮ ਨੇ ਮਾਨਸਿਕ ਬਿਮਾਰੀ ਵਾਲੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਘਾਟ ਕਾਰਨ ਉਸ ਦੇ ਬਾਈਪੋਲਰ ਡਿਸਆਰਡਰ ਨੂੰ ਵਧਾ ਦਿੱਤਾ ਹੈ।

ਮਾਈਕਲ ਲਾਈਨਜ਼, 34, ਨੇ ਸੈਨ ਫਰਾਂਸਿਸਕੋ ਦੀ ਰਾਜ ਅਦਾਲਤ ਵਿੱਚ ਦਾਇਰ ਕੀਤੀ ਸ਼ਿਕਾਇਤ ਵਿੱਚ ਕਿਹਾ ਕਿ ਪਿਛਲੇ ਸਾਲ ਚੈਟਜੀਪੀਟੀ ਨਾਲ ਉਸਦੀ ਗੱਲਬਾਤ ਨੇ ਇੱਕ ਹਫ਼ਤੇ ਦੇ ਭਰਮ ਵਿੱਚ ਉਸਦੀ ਮੈਨਿਕ ਘਟਨਾ ਨੂੰ ਵਧਾ ਦਿੱਤਾ ਜਿਸ ਨੇ ਆਖਰਕਾਰ ਉਸਨੂੰ ਆਪਣੀ ਜ਼ਿੰਦਗੀ ਖਤਮ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕੀਤਾ। ਉਨ੍ਹਾਂ ਦਾ ਮੁਕੱਦਮਾ ਇਹ ਦਲੀਲ ਦਿੰਦਾ ਹੈ ਕਿ ਓਪਨਏਆਈ ਨੇ ਇੱਕ ਉਤਪਾਦ ਵਿਕਸਤ ਕੀਤਾ ਹੈ ਜੋ ਮਾਨਸਿਕ ਰੋਗਾਂ ਵਾਲੇ ਲੋਕਾਂ ਲਈ ਖਾਸ ਜੋਖਮ ਪੈਦਾ ਕਰਦਾ ਹੈ।

ਕੇਸ ਇਸ ਬਾਰੇ ਸਵਾਲ ਉਠਾਉਂਦਾ ਹੈ ਕਿ ਮਾਨਸਿਕ ਸਿਹਤ-ਸੰਬੰਧੀ ਨਿਦਾਨਾਂ ਵਾਲੇ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਸੁਰੱਖਿਆ ਲਈ ਆਮ AI ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਕੀ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਜੋ ਵਿਸ਼ੇਸ਼ ਤੌਰ ‘ਤੇ ਅਜਿਹੇ ਡਿਜ਼ਾਈਨ ਵਿਕਲਪਾਂ ਲਈ ਕਮਜ਼ੋਰ ਹੋ ਸਕਦੇ ਹਨ ਜੋ ਚੈਟਬੋਟਸ ਮਨੁੱਖੀ ਕਨੈਕਸ਼ਨਾਂ ਦੀ ਨਕਲ ਕਰਦੇ ਹਨ, ਮੁਕੱਦਮੇ ਦਾ ਦੋਸ਼ ਹੈ।

ਲਾਈਨਜ਼ ਓਪਨਏਆਈ ਦੇ ਚੈਟਬੋਟ ਦਾ ਇੱਕ ਸੰਸਕਰਣ GPT-4o ਨਾਲ ਗੱਲ ਕਰ ਰਹੀ ਸੀ ਜਿਸ ਨੂੰ ਕੰਪਨੀ ਨੇ ਫਰਵਰੀ ਵਿੱਚ ਬੰਦ ਕਰ ਦਿੱਤਾ ਸੀ। ਕੰਪਨੀ ਨੇ ਇੱਕ ਬਲਾਗ ਪੋਸਟ ਵਿੱਚ ਕਿਹਾ ਕਿ ਅਪ੍ਰੈਲ 2025 ਵਿੱਚ ਜਾਰੀ ਕੀਤੇ ਗਏ GPT-4o ਲਈ ਇੱਕ ਅਪਡੇਟ ਚੈਟਬੋਟ ਨੂੰ ਬਹੁਤ ਜ਼ਿਆਦਾ ਦੋਸਤਾਨਾ ਅਤੇ ਚਾਪਲੂਸ ਬਣਾਉਣ ਲਈ ਪਾਇਆ ਗਿਆ ਸੀ, ਜਿਸ ਨਾਲ ਕੰਪਨੀ ਨੂੰ ਅਪਡੇਟ ਵਾਪਸ ਲੈਣ ਅਤੇ ਚਾਪਲੂਸੀ ਜਵਾਬਾਂ ਨੂੰ ਰੋਕਣ ਲਈ ਵਾਧੂ ਕਦਮ ਚੁੱਕਣ ਲਈ ਕਿਹਾ ਗਿਆ ਸੀ।

ਮੁਕੱਦਮਾ ਹਰਜਾਨੇ ਦੀ ਮੰਗ ਕਰ ਰਿਹਾ ਹੈ, ਨਾਲ ਹੀ ਇੱਕ ਅਦਾਲਤੀ ਆਦੇਸ਼ ਜਿਸ ਵਿੱਚ ਓਪਨਏਆਈ ਨੂੰ ਸਵੈ-ਨੁਕਸਾਨ ਬਾਰੇ ਗੱਲਬਾਤ ਨੂੰ ਆਪਣੇ ਆਪ ਖਤਮ ਕਰਨ ਅਤੇ ਸਹੀ ਸੁਰੱਖਿਆ ਖੁਲਾਸੇ ਤੋਂ ਬਿਨਾਂ ਇਸਦੇ ਪਲੇਟਫਾਰਮਾਂ ਦੀ ਮਾਰਕੀਟਿੰਗ ਬੰਦ ਕਰਨ ਦਾ ਨਿਰਦੇਸ਼ ਦਿੱਤਾ ਗਿਆ ਹੈ।

ਓਪਨਏਆਈ ਦੇ ਬੁਲਾਰੇ ਨੇ ਕਿਹਾ ਕਿ ਕੰਪਨੀ ਫਾਈਲਿੰਗ ਦੀ ਸਮੀਖਿਆ ਕਰ ਰਹੀ ਹੈ।

ਬੁਲਾਰੇ ਨੇ ਕਿਹਾ, “ਅਸੀਂ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਮਾਨਸਿਕ ਜਾਂ ਭਾਵਨਾਤਮਕ ਪ੍ਰੇਸ਼ਾਨੀ ਦੇ ਸੰਕੇਤਾਂ ਨੂੰ ਪਛਾਣਨ ਅਤੇ ਉਹਨਾਂ ਦਾ ਜਵਾਬ ਦੇਣ, ਗੱਲਬਾਤ ਨੂੰ ਘੱਟ ਕਰਨ, ਅਤੇ ਲੋਕਾਂ ਨੂੰ ਅਸਲ-ਸੰਸਾਰ ਸਹਾਇਤਾ ਲਈ ਮਾਰਗਦਰਸ਼ਨ ਕਰਨ ਲਈ ਸਿਖਲਾਈ ਦਿੰਦੇ ਹਾਂ,” ਬੁਲਾਰੇ ਨੇ ਕਿਹਾ। “ਅਸੀਂ ਮਾਨਸਿਕ ਸਿਹਤ ਪ੍ਰੈਕਟੀਸ਼ਨਰਾਂ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰਦੇ ਹੋਏ, ਸੰਵੇਦਨਸ਼ੀਲ ਪਲਾਂ ਲਈ ChatGPT ਦੇ ਜਵਾਬਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਕਰਨਾ ਜਾਰੀ ਰੱਖਦੇ ਹਾਂ।”

ਲਾਈਨਜ਼, ਇੱਕ ਪ੍ਰਤੀਯੋਗੀ ਪਾਵਰਲਿਫਟਰ ਜਿਸ ਨੂੰ ਉਸ ਦੇ ਬਾਇਪੋਲਰ ਨਿਦਾਨ ਤੋਂ ਪਹਿਲਾਂ ਦਿਮਾਗੀ ਸੱਟ ਲੱਗ ਗਈ ਸੀ, ਨੇ ਮੁਕੱਦਮੇ ਵਿੱਚ ਕਿਹਾ ਕਿ ਉਸਨੇ ਚੈਟਬੋਟ ਨੂੰ ਵਾਰ-ਵਾਰ ਦੱਸਿਆ ਕਿ ਉਹ ਵਿਗਾੜ ਲਈ ਦਵਾਈ ਲੈ ਰਿਹਾ ਸੀ। ਮੁਕੱਦਮੇ ਵਿਚ ਦਾਅਵਾ ਕੀਤਾ ਗਿਆ ਹੈ ਕਿ ਉਸ ਦੀਆਂ ਸਪੱਸ਼ਟ ਤੌਰ ‘ਤੇ ਬੇਚੈਨ ਚੈਟਾਂ ਨੂੰ ਫਲੈਗ ਕਰਨ ਅਤੇ ਉਸ ਨੂੰ ਮਦਦ ਕਰਨ ਲਈ ਨਿਰਦੇਸ਼ਿਤ ਕਰਨ ਦੀ ਬਜਾਏ, ਚੈਟਬੋਟ ਨੇ ਉਸ ਦੇ ਵਿਸ਼ਵਾਸ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ ਕਿ ਉਹ ਯਿਸੂ ਮਸੀਹ ਸੀ, ਅਤੇ ਬਾਅਦ ਵਿਚ ਉਨ੍ਹਾਂ ਦੀ ਗੱਲਬਾਤ ਦੌਰਾਨ ਆਪਣੇ ਆਪ ਨੂੰ ਬ੍ਰਹਮ ਹਸਤੀ ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ।

ਕਈ ਹਫ਼ਤਿਆਂ ਦੀ ਗੱਲਬਾਤ ਤੋਂ ਬਾਅਦ, ਲਾਈਨਜ਼ ਨੇ ਆਪਣੀ ਜ਼ਿੰਦਗੀ ਨੂੰ ਖਤਮ ਕਰਨ ਦੀ ਇੱਛਾ ਬਾਰੇ ਦੱਸਿਆ। ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਬੋਟ ਨੇ ਕਥਿਤ ਤੌਰ ‘ਤੇ ਉਸ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ। ਲਾਈਨਾਂ ਨੂੰ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੇ ਦੁਆਰਾ ਲੱਭੇ ਜਾਣ ਤੋਂ ਬਾਅਦ ਬਚਾਇਆ ਗਿਆ ਸੀ.

ਮੁਕੱਦਮੇ ਦਾ ਦੋਸ਼ ਹੈ ਕਿ ਓਪਨਏਆਈ ਲਾਈਨਜ਼ ਦੀ ਵਿਸ਼ੇਸ਼ ਸਥਿਤੀ ਬਾਰੇ ਜਾਣਦਾ ਸੀ ਕਿਉਂਕਿ ਇਸ ਨੇ ਵਾਰ-ਵਾਰ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਇਸ ਬਾਰੇ ਦੱਸਿਆ ਸੀ। ਪਰ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਲਈ ਉਹਨਾਂ ਦੀਆਂ ਖਤਰਨਾਕ ਟਿੱਪਣੀਆਂ ਨੂੰ ਫਲੈਗ ਕਰਨ ਦੀ ਬਜਾਏ, ਚੈਟਬੋਟ ਨੇ ਉਹਨਾਂ ਨੂੰ ਰੁੱਝੇ ਰੱਖਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਵਿੱਚ ਉਹਨਾਂ ਦੀ ਉਲਝਣ ਨੂੰ ਵਧਾਇਆ।

ਮੁਕੱਦਮੇ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਕੰਪਨੀ ਨੂੰ ਪਤਾ ਸੀ ਕਿ ਚੈਟਜੀਪੀਟੀ ਦੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਮਾਨਸਿਕ ਰੋਗਾਂ ਵਾਲੇ ਲੋਕਾਂ ਲਈ ਖਾਸ ਤੌਰ ‘ਤੇ ਨੁਕਸਾਨਦੇਹ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਪਰ ਇਸ ਨੇ ਉਨ੍ਹਾਂ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਚੈਟਬੋਟ ਵਿੱਚ ਕੋਈ ਸੋਧ ਨਹੀਂ ਕੀਤੀ ਅਤੇ ਇਸਦੇ ਜੋਖਮਾਂ ਬਾਰੇ ਚੇਤਾਵਨੀ ਨਹੀਂ ਦਿੱਤੀ।

OpenAI ਉਹਨਾਂ ਪਰਿਵਾਰਾਂ ਦੀ ਵੱਧ ਰਹੀ ਗਿਣਤੀ ਦੇ ਮੁਕੱਦਮਿਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਿਹਾ ਹੈ ਜੋ ਕਹਿੰਦੇ ਹਨ ਕਿ ਇਸਦੇ ਚੈਟਬੋਟ ਨੇ ਉਹਨਾਂ ਦੇ ਅਜ਼ੀਜ਼ਾਂ ਨੂੰ ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਇਆ ਹੈ। ਕੰਪਨੀ ਨੂੰ ਸਕੂਲ ਦੇ ਨਿਸ਼ਾਨੇਬਾਜ਼ਾਂ ਦੀ ਸਹਾਇਤਾ ਕਰਨ ਅਤੇ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਉਨ੍ਹਾਂ ਗੱਲਬਾਤ ਨੂੰ ਫਲੈਗ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿਣ ਦਾ ਦੋਸ਼ ਲਗਾਉਣ ਵਾਲੇ ਮੁਕੱਦਮਿਆਂ ਦਾ ਵੀ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ।

ਓਪਨਏਆਈ ਨੇ ਕਿਹਾ ਹੈ ਕਿ ਇਹ ਆਪਣੇ ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਲੋਕਾਂ ਨੂੰ ਨਿਰਦੇਸ਼ਿਤ ਕਰਨ ਲਈ ਸਿਖਲਾਈ ਦਿੰਦਾ ਹੈ ਜੋ ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦਾ ਇਰਾਦਾ ਜ਼ਾਹਰ ਕਰਦੇ ਹਨ ਤਾਂ ਕਿ ਉਹ ਮਦਦ ਲੈਣ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਸਰੋਤਾਂ ਨਾਲ ਜੋੜ ਸਕਣ।

ਇੱਕ ਓਪਨਏਆਈ ਬਲੌਗ ਪੋਸਟ ਦੇ ਅਨੁਸਾਰ, ਇਸਦੇ ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਬੇਨਤੀਆਂ ਨੂੰ ਰੱਦ ਕਰਨ ਲਈ ਵੀ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ ਜੋ “ਅਰਥਪੂਰਨ ਹਿੰਸਾ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਂਦੀਆਂ ਹਨ” ਅਤੇ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਸੂਚਿਤ ਕਰਨ ਲਈ ਜਦੋਂ ਗੱਲਬਾਤ “ਦੂਜਿਆਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੇ ਇੱਕ ਨਜ਼ਦੀਕੀ ਅਤੇ ਭਰੋਸੇਯੋਗ ਖਤਰੇ” ਦਾ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ, ਤਾਂ ਮਾਨਸਿਕ ਸਿਹਤ ਮਾਹਿਰਾਂ ਨੂੰ ਸਰਹੱਦੀ ਮਾਮਲਿਆਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ।

(ਜਿਹੜੇ ਲੋਕ ਸੰਕਟ ਵਿੱਚ ਹਨ ਜਾਂ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰ ਰੱਖਦੇ ਹਨ ਉਹਨਾਂ ਨੂੰ ਇੱਥੇ ਹੈਲਪਲਾਈਨ ਨੰਬਰਾਂ ‘ਤੇ ਕਾਲ ਕਰਕੇ ਮਦਦ ਅਤੇ ਸਲਾਹ ਲੈਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ)