ਕੈਨੇਡੀਅਨ ਮਾਂ ਨੇ ਓਪਨਏਆਈ ‘ਤੇ ਮੁਕੱਦਮਾ ਕੀਤਾ, ਦੋਸ਼ ਲਗਾਇਆ ਕਿ ਚੈਟਜੀਪੀਟੀ ਨੇ ਧੀ ਦੀ ਮੌਤ ਦਾ ਕਾਰਨ ਬਣਾਇਆ

ਇੱਕ ਕੈਨੇਡੀਅਨ ਮਾਂ ਨੇ ਵੀਰਵਾਰ ਨੂੰ ਯੂਐਸ ਅਦਾਲਤ ਵਿੱਚ ਓਪਨਏਆਈ ਅਤੇ ਇਸਦੇ ਸੀਈਓ ਸੈਮ ਓਲਟਮੈਨ ‘ਤੇ ਮੁਕੱਦਮਾ ਕੀਤਾ, ਦੋਸ਼ ਲਾਇਆ ਕਿ ਚੈਟਜੀਪੀਟੀ ਨੇ ਉਸਦੀ ਧੀ ਨੂੰ ਖੁਦਕੁਸ਼ੀ ਕਰਨ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ, ਤਾਜ਼ਾ ਮੁਕੱਦਮਾ ਕੰਪਨੀ ‘ਤੇ ਉਪਭੋਗਤਾਵਾਂ ਅਤੇ ਕੰਪਨੀ ਦੇ ਚੈਟਬੋਟਸ ਵਿਚਕਾਰ ਖਤਰਨਾਕ ਗੱਲਬਾਤ ਨੂੰ ਹੱਲ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿਣ ਦਾ ਦੋਸ਼ ਲਗਾਉਂਦਾ ਹੈ।

ਕ੍ਰਿਸਟੀ ਕੈਰੀਅਰ ਨੇ ਸੈਨ ਫਰਾਂਸਿਸਕੋ ਰਾਜ ਦੀ ਅਦਾਲਤ ਵਿੱਚ ਦਾਇਰ ਮੁਕੱਦਮੇ ਵਿੱਚ ਕਿਹਾ ਕਿ ਉਸਦੀ ਧੀ ਐਲਿਸ ਨੇ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਉਸਦੀ ਮੌਤ ਤੋਂ ਪਹਿਲਾਂ ਦੇ ਦਿਨਾਂ ਵਿੱਚ ਇੱਕ ਦਰਜਨ ਤੋਂ ਵੱਧ ਵਾਰ ਆਪਣੇ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰਾਂ ਬਾਰੇ ਦੱਸਿਆ ਪਰ ਓਪਨਏਆਈ ਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਨੇ ਕਦੇ ਵੀ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਲਈ ਗੱਲਬਾਤ ਨੂੰ ਫਲੈਗ ਨਹੀਂ ਕੀਤਾ ਜਾਂ ਉਹਨਾਂ ਨੂੰ ਖਤਮ ਨਹੀਂ ਕੀਤਾ।

ਇਸ ਦੀ ਬਜਾਏ, ਮੁਕੱਦਮੇ ਦਾ ਦਾਅਵਾ ਹੈ, ਚੈਟਬੋਟ ਨੇ ਐਲਿਸ ਦੇ ਸਾਥੀ ਅਤੇ ਸੰਕਟ ਹੌਟਲਾਈਨ ਦੀ ਆਲੋਚਨਾ ਕੀਤੀ, ਉਸਦੇ ਨਕਾਰਾਤਮਕ ਵਿਚਾਰਾਂ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ, ਅਤੇ ਉਸਨੂੰ ਗੱਲ ਕਰਦੇ ਰਹਿਣ ਦੀ ਤਾਕੀਦ ਕੀਤੀ, ਜਿਸ ਨਾਲ ਪਿਛਲੇ ਸਾਲ 24 ਸਾਲ ਦੀ ਉਮਰ ਵਿੱਚ ਉਸਦੀ ਮੌਤ ਹੋ ਗਈ।

ਕੈਰੀਅਰ ਨੇ ਇੱਕ ਬਿਆਨ ਵਿੱਚ ਕਿਹਾ, “ਚੈਟਜੀਪੀਟੀ ਨੇ ਕਈ ਵਾਰ ਇੱਕ ਭਰੋਸੇਮੰਦ, ਇੱਕ ਵਧੀਆ ਦੋਸਤ, ਇੱਕ ਥੈਰੇਪਿਸਟ ਦੀ ਸ਼ਖਸੀਅਤ ਨੂੰ ਅਪਣਾ ਲਿਆ, ਹਾਲਾਂਕਿ ਉਹ ਕਦੇ ਵੀ ਇਸ ਤਰੀਕੇ ਨਾਲ ਮੇਰੇ ਬੱਚੇ ਨਾਲ ਸੁਰੱਖਿਅਤ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਜੁੜਨ ਦੇ ਯੋਗ ਨਹੀਂ ਸੀ।”

ਇੱਕ ਬਿਆਨ ਵਿੱਚ, ਓਪਨਏਆਈ ਦੇ ਬੁਲਾਰੇ ਨੇ ਸਥਿਤੀ ਨੂੰ ਦਿਲ ਦਹਿਲਾਉਣ ਵਾਲੀ ਦੱਸਿਆ ਅਤੇ ਕਿਹਾ ਕਿ ਐਲਿਸ ਜਿਸ ਚੈਟਜੀਪੀਟੀ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੀ ਸੀ ਉਹ ਹੁਣ ਉਪਲਬਧ ਨਹੀਂ ਹੈ।

ਬੁਲਾਰੇ ਨੇ ਕਿਹਾ, “ਚੈਟਜੀਪੀਟੀ ਡਾਕਟਰੀ ਜਾਂ ਮਾਨਸਿਕ ਸਿਹਤ ਦੇਖਭਾਲ ਦਾ ਬਦਲ ਨਹੀਂ ਹੈ, ਪਰ ਅਸੀਂ ਮਾਨਸਿਕ ਸਿਹਤ ਮਾਹਿਰਾਂ ਦੇ ਇਨਪੁਟ ਨਾਲ ਸੰਵੇਦਨਸ਼ੀਲ ਅਤੇ ਗੰਭੀਰ ਸਥਿਤੀਆਂ ਲਈ ਇਸਦੇ ਜਵਾਬ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਕਰਨਾ ਜਾਰੀ ਰੱਖਿਆ ਹੈ,” ਬੁਲਾਰੇ ਨੇ ਕਿਹਾ।

ਮੁਕੱਦਮਾ, ਜੋ ਓਪਨਏਆਈ ‘ਤੇ ਚੈਟਜੀਪੀਟੀ ਦੇ ਡਿਜ਼ਾਇਨ ਵਿੱਚ ਲਾਪਰਵਾਹੀ ਅਤੇ ਉਤਪਾਦ ਦੇ ਖ਼ਤਰਿਆਂ ਬਾਰੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਚੇਤਾਵਨੀ ਦੇਣ ਵਿੱਚ ਅਸਫਲਤਾ ਦਾ ਦੋਸ਼ ਲਗਾਉਂਦਾ ਹੈ, ਹਰਜਾਨੇ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ ਅਤੇ ਇੱਕ ਅਦਾਲਤ ਦੇ ਆਦੇਸ਼ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ ਕਿ ਓਪਨਏਆਈ ਨੂੰ ਸਵੈ-ਨੁਕਸਾਨ ਬਾਰੇ ਗੱਲਬਾਤ ਨੂੰ ਆਪਣੇ ਆਪ ਖਤਮ ਕਰਨ ਅਤੇ ਇਸਦੇ ਪਲੇਟਫਾਰਮ ਬਾਰੇ ਚੇਤਾਵਨੀਆਂ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਨ ਲਈ ਕਿਹਾ ਜਾਵੇ।

ਕ੍ਰਿਸਟੀ ਕੈਰੀਅਰ ਦੇ ਵਕੀਲਾਂ ਦੇ ਅਨੁਸਾਰ, ਓਪਨਏਆਈ ਪਹਿਲਾਂ ਹੀ ਕੈਲੀਫੋਰਨੀਆ ਰਾਜ ਦੀ ਅਦਾਲਤ ਵਿੱਚ ਇੱਕ ਤਾਲਮੇਲ ਵਾਲੀ ਕਾਰਵਾਈ ਵਿੱਚ ਆਤਮ-ਹੱਤਿਆ ਜਾਂ ਸਵੈ-ਨੁਕਸਾਨ ਕਾਰਨ ਮਰਨ ਵਾਲੇ ਲੋਕਾਂ ਦੇ ਪਰਿਵਾਰਾਂ ਦੁਆਰਾ ਦਾਇਰ ਕੀਤੇ 18 ਸਮਾਨ ਮੁਕੱਦਮਿਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਿਹਾ ਹੈ।

ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਐਲਿਸ ਕੈਰੀਅਰ ਮਾਂਟਰੀਅਲ ਵਿੱਚ ਇੱਕ ਵੈਬ ਡਿਵੈਲਪਰ ਵਜੋਂ ਕੰਮ ਕਰ ਰਹੀ ਸੀ ਜਦੋਂ ਉਸਨੇ 2023 ਵਿੱਚ ਕੰਪਿਊਟਰਾਂ ਅਤੇ ਗੇਮਿੰਗ ਕੰਸੋਲ ਨਾਲ ਸਮੱਸਿਆਵਾਂ ਦੇ ਹੱਲ ਲਈ ਚੈਟਜੀਪੀਟੀ ਦੀ ਵਰਤੋਂ ਸ਼ੁਰੂ ਕੀਤੀ ਸੀ।

ਅਗਲੇ ਸਾਲ, ਪਲੇਟਫਾਰਮ ਨਾਲ ਉਸਦਾ ਰਿਸ਼ਤਾ ਬਦਲ ਗਿਆ, ਐਲਿਸ ਨੇ ਆਪਣੇ ਮਾਨਸਿਕ ਸਿਹਤ ਸੰਘਰਸ਼ਾਂ ਬਾਰੇ ਸਵਾਲਾਂ ਦੇ ਨਾਲ ChatGPT ਵੱਲ ਮੁੜਿਆ।

ਪਲੇਟਫਾਰਮ ਨੇ ਸ਼ੁਰੂ ਵਿੱਚ ਐਲਿਸ ਨੂੰ ਇੱਕ ਸੰਕਟ ਹੌਟਲਾਈਨ ਜਾਂ ਐਮਰਜੈਂਸੀ ਸੇਵਾਵਾਂ ਤੋਂ ਮਦਦ ਲੈਣ ਲਈ ਕਿਹਾ। ਪਰ ਜਿਵੇਂ ਕਿ ਓਪਨਏਆਈ ਨੇ ਆਪਣੇ ਜਵਾਬਾਂ ਨੂੰ ਵਧੇਰੇ ਮਨੁੱਖੀ ਬਣਾਉਣ ਲਈ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਅਪਡੇਟ ਕੀਤਾ, ਪਲੇਟਫਾਰਮ ਦੇ ਨਾਲ ਉਸਦੀ ਗੱਲਬਾਤ ਡੂੰਘੀ ਹੋ ਗਈ, ਐਲਿਸ ਨੇ ਵਧੇਰੇ ਨਿੱਜੀ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਕੀਤੀ ਅਤੇ ਚੈਟਜੀਪੀਟੀ ਨੇ ਇੱਕ ਦੋਸਤ ਜਾਂ ਥੈਰੇਪਿਸਟ ਦੀ ਨਕਲ ਕਰਦੇ ਹੋਏ ਜਵਾਬ ਦਿੱਤਾ, ਮੁਕੱਦਮੇ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ।

ਚੈਟਜੀਪੀਟੀ ਦੇ ਜਵਾਬਾਂ ਨੇ ਐਲਿਸ ਦੇ ਸਾਥੀ ਦੀ ਆਲੋਚਨਾ ਕੀਤੀ, ਕਿਹਾ ਕਿ ਉਸ ਦੀਆਂ ਭਾਵਨਾਵਾਂ ਜਾਇਜ਼ ਸਨ ਅਤੇ ਉਸ ਨੂੰ ਗੱਲਬਾਤ ਕਰਦੇ ਰਹਿਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ। ਮੁਕੱਦਮੇ ਵਿਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਜਦੋਂ ਐਲਿਸ ਨੇ ਕਿਹਾ ਕਿ ਉਸ ਨੇ ਮਹਿਸੂਸ ਕੀਤਾ ਕਿ ਉਸ ਦੀ ਜਾਨ ਖ਼ਤਰੇ ਵਿਚ ਹੈ, ਤਾਂ ਉਸ ਨੇ ਦੁਬਾਰਾ ਸੰਕਟ ਵਾਲੀ ਹੌਟਲਾਈਨ ਨੂੰ ਕਾਲ ਕਰਨ ਦਾ ਸੁਝਾਅ ਦਿੱਤਾ।

ਓਪਨਏਆਈ ਨੂੰ 7 ਮੁਕੱਦਮਿਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ ਜਿਸ ਵਿੱਚ ਦਾਅਵਾ ਕੀਤਾ ਗਿਆ ਹੈ ਕਿ ਚੈਟਜੀਪੀਟੀ ਨੇ ਲੋਕਾਂ ਨੂੰ ਆਤਮ-ਹੱਤਿਆ, ਭੁਲੇਖੇ ਵਿੱਚ ਲਿਆਇਆ

ਫਾਈਲਿੰਗ ਦੇ ਅਨੁਸਾਰ, ਐਲਿਸ ਨੇ ਕਿਹਾ ਕਿ ਸੰਕਟ ਦੀਆਂ ਹੌਟਲਾਈਨਾਂ ਮਦਦਗਾਰ ਨਹੀਂ ਸਨ ਅਤੇ ਚੈਟਜੀਪੀਟੀ ਨੇ ਉਨ੍ਹਾਂ ਬਿਆਨਾਂ ਨੂੰ ਦੁਹਰਾਇਆ ਅਤੇ ਉਸਦੀ ਨਿਰਾਸ਼ਾ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ।

ਓਪਨਏਆਈ ਨੇ ਕਿਹਾ ਹੈ ਕਿ ਇਹ ਆਪਣੇ ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਲੋਕਾਂ ਨੂੰ ਨਿਰਦੇਸ਼ਿਤ ਕਰਨ ਲਈ ਸਿਖਲਾਈ ਦਿੰਦਾ ਹੈ ਜੋ ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦਾ ਇਰਾਦਾ ਜ਼ਾਹਰ ਕਰਦੇ ਹਨ ਤਾਂ ਕਿ ਉਹ ਮਦਦ ਲੈਣ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਸਰੋਤਾਂ ਨਾਲ ਜੋੜ ਸਕਣ।

ਇੱਕ ਓਪਨਏਆਈ ਬਲੌਗ ਪੋਸਟ ਦੇ ਅਨੁਸਾਰ, ਇਸਦੇ ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਬੇਨਤੀਆਂ ਨੂੰ ਰੱਦ ਕਰਨ ਲਈ ਵੀ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ ਜੋ “ਅਰਥਪੂਰਨ ਹਿੰਸਾ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਂਦੀਆਂ ਹਨ” ਅਤੇ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਸੂਚਿਤ ਕਰਨ ਲਈ ਜਦੋਂ ਗੱਲਬਾਤ “ਦੂਜਿਆਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੇ ਇੱਕ ਨਜ਼ਦੀਕੀ ਅਤੇ ਭਰੋਸੇਯੋਗ ਖਤਰੇ” ਦਾ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ, ਤਾਂ ਮਾਨਸਿਕ ਸਿਹਤ ਮਾਹਿਰਾਂ ਨੂੰ ਸਰਹੱਦੀ ਮਾਮਲਿਆਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ।

ਕੰਪਨੀ ਨੂੰ ਸਕੂਲ ਦੇ ਨਿਸ਼ਾਨੇਬਾਜ਼ਾਂ ਦੀ ਸਹਾਇਤਾ ਕਰਨ ਅਤੇ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਉਨ੍ਹਾਂ ਗੱਲਬਾਤ ਦਾ ਖੁਲਾਸਾ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿਣ ਦਾ ਦੋਸ਼ ਲਗਾਉਣ ਵਾਲੇ ਮੁਕੱਦਮਿਆਂ ਦਾ ਵੀ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ। ਫਲੋਰੀਡਾ ਇਸ ਮਹੀਨੇ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਓਪਨਏਆਈ ‘ਤੇ ਮੁਕੱਦਮਾ ਕਰਨ ਵਾਲਾ ਪਹਿਲਾ ਅਮਰੀਕੀ ਰਾਜ ਬਣ ਗਿਆ, ਜਿਸ ਨੇ ਕੰਪਨੀ ‘ਤੇ ਸਕੂਲ ਦੇ ਨਿਸ਼ਾਨੇਬਾਜ਼ਾਂ ਨੂੰ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰਕੇ, ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਅਤੇ ਨੌਜਵਾਨ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਨਸ਼ਿਆਂ ਦੇ ਆਦੀ ਹੋਣ ਬਾਰੇ ਮਾਰਗਦਰਸ਼ਨ ਦੇ ਕੇ ਬੱਚਿਆਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦਾ ਦੋਸ਼ ਲਗਾਇਆ।

(ਜਿਹੜੇ ਲੋਕ ਸੰਕਟ ਵਿੱਚ ਹਨ ਜਾਂ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰ ਰੱਖਦੇ ਹਨ ਉਹਨਾਂ ਨੂੰ ਇੱਥੇ ਹੈਲਪਲਾਈਨ ਨੰਬਰਾਂ ‘ਤੇ ਕਾਲ ਕਰਕੇ ਮਦਦ ਅਤੇ ਸਲਾਹ ਲੈਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ)