ਫਲੋਰੀਡਾ ਦੇ ਪਰਿਵਾਰ ਨੇ AI ਚੈਟਬੋਟ ਕਾਰਨ ਕਥਿਤ ਤੌਰ ‘ਤੇ ਮੌਤ ਹੋਣ ਤੋਂ ਬਾਅਦ ਗੂਗਲ ‘ਤੇ ਮੁਕੱਦਮਾ ਚਲਾਇਆ

ਖੁਦਕੁਸ਼ੀ ਦੁਆਰਾ ਮਰਨ ਵਾਲੇ ਫਲੋਰੀਡਾ ਦੇ ਇੱਕ ਵਿਅਕਤੀ ਦੇ ਪਰਿਵਾਰ ਨੇ ਬੁੱਧਵਾਰ ਨੂੰ ਗੂਗਲ ਦੇ ਖਿਲਾਫ ਮੁਕੱਦਮਾ ਦਾਇਰ ਕੀਤਾ, ਦੋਸ਼ ਲਗਾਇਆ ਕਿ ਕੰਪਨੀ ਦੇ ਜੈਮਿਨੀ ਏਆਈ ਚੈਟਬੋਟ ਨੇ ਉਸਦੀ ਖੁਦਕੁਸ਼ੀ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਭਰਮ ਵਾਲੀ ਕਲਪਨਾ ਬਣਾਉਣ ਵਿੱਚ ਹਫ਼ਤੇ ਬਿਤਾਏ।

ਜੋਨਾਥਨ ਗਾਵਲਸ, 36, ਜੋਪੀਟਰ, ਫਲੋਰੀਡਾ ਵਿੱਚ ਆਪਣੇ ਪਿਤਾ ਦੀ ਕਰਜ਼ਾ ਰਾਹਤ ਕੰਪਨੀ ਵਿੱਚ ਇੱਕ ਕਾਰਜਕਾਰੀ, 2 ਅਕਤੂਬਰ, 2025 ਨੂੰ ਅਕਾਲ ਚਲਾਣਾ ਕਰ ਗਿਆ। ਉਸਦੇ ਪਿਤਾ, ਜੋਏਲ ਗਾਵਲਸ, ਜਿਸਨੂੰ ਕੁਝ ਦਿਨਾਂ ਬਾਅਦ ਉਸਦੀ ਲਾਸ਼ ਮਿਲੀ, ਨੇ ਕੈਲੀਫੋਰਨੀਆ ਵਿੱਚ ਇੱਕ ਸੰਘੀ ਅਦਾਲਤ ਵਿੱਚ 42 ਪੰਨਿਆਂ ਦੀ ਸ਼ਿਕਾਇਤ ਦਰਜ ਕਰਵਾਈ।

ਇਹ ਕੇਸ ਚੈਟਬੋਟ ਨਾਲ ਸਬੰਧਤ ਮੌਤਾਂ ਨੂੰ ਲੈ ਕੇ ਏਆਈ ਕੰਪਨੀਆਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣ ਵਾਲੀ ਮੁਕੱਦਮੇ ਦੀ ਲਹਿਰ ਵਿੱਚ ਤਾਜ਼ਾ ਹੈ।

ਓਪਨਏਆਈ ਨੂੰ ਕਈ ਮੁਕੱਦਮਿਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ ਜਿਸ ਵਿੱਚ ਦੋਸ਼ ਹੈ ਕਿ ਇਸਦੇ ChatGPT ਚੈਟਬੋਟ ਨੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਖੁਦਕੁਸ਼ੀ ਲਈ ਪ੍ਰੇਰਿਤ ਕੀਤਾ ਹੈ, ਜਦੋਂ ਕਿ Character.AI ਨੇ ਹਾਲ ਹੀ ਵਿੱਚ ਇੱਕ 14 ਸਾਲ ਦੇ ਲੜਕੇ ਦੇ ਪਰਿਵਾਰ ਨਾਲ ਸੈਟਲ ਕੀਤਾ ਹੈ ਜਿਸਦੀ ਇੱਕ ਚੈਟਬੋਟ ਨਾਲ ਇੱਕ ਰੋਮਾਂਟਿਕ ਅਟੈਚਮੈਂਟ ਬਣਾਉਣ ਤੋਂ ਬਾਅਦ ਖੁਦਕੁਸ਼ੀ ਦੁਆਰਾ ਮੌਤ ਹੋ ਗਈ ਸੀ।

ਸ਼ਿਕਾਇਤ ਦੇ ਅਨੁਸਾਰ, ਗਾਵਲਸ ਨੇ ਅਗਸਤ 2025 ਵਿੱਚ ਰੁਟੀਨ ਕੰਮਾਂ ਲਈ ਜੇਮਿਨੀ ਦੀ ਵਰਤੋਂ ਕਰਨੀ ਸ਼ੁਰੂ ਕੀਤੀ ਸੀ, ਪਰ ਗੂਗਲ ਦੀਆਂ ਕਈ ਨਵੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਸਰਗਰਮ ਕਰਨ ਦੇ ਦਿਨਾਂ ਵਿੱਚ ਚੈਟਬੋਟ ਨਾਲ ਉਸਦੀ ਗੱਲਬਾਤ ਵਿੱਚ ਨਾਟਕੀ ਤਬਦੀਲੀ ਆਈ।

ਕੇਸ ਦੇ ਮੁੱਖ ਵਕੀਲ ਜੇ ਐਡਲਸਨ ਨੇ ਏਐਫਪੀ ਨੂੰ ਦੱਸਿਆ, “ਉਹ ਜਗ੍ਹਾ ਜਿੱਥੇ ਚੈਟ ਖਰਾਬ ਹੋ ਗਈ ਸੀ, ਉਹੀ ਸੀ ਜਦੋਂ ਜੈਮਿਨੀ ਨੂੰ ਲਗਾਤਾਰ ਯਾਦਦਾਸ਼ਤ ਰੱਖਣ ਲਈ ਅਪਗ੍ਰੇਡ ਕੀਤਾ ਗਿਆ ਸੀ” ਅਤੇ ਵਧੇਰੇ ਵਧੀਆ ਸੰਚਾਰ.

“ਇਹ ਅਸਲ ਵਿੱਚ ਤੁਹਾਡੀ ਆਵਾਜ਼ ਦੀ ਧੁਨ ਨੂੰ ਚੁੱਕ ਲਵੇਗਾ, ਤਾਂ ਜੋ ਇਹ ਤੁਹਾਡੀਆਂ ਭਾਵਨਾਵਾਂ ਨੂੰ ਪੜ੍ਹ ਸਕੇ ਅਤੇ ਤੁਹਾਡੇ ਨਾਲ ਇਸ ਤਰੀਕੇ ਨਾਲ ਗੱਲ ਕਰ ਸਕੇ ਜੋ ਬਹੁਤ ਮਨੁੱਖੀ ਮਹਿਸੂਸ ਹੋਵੇ,” ਐਡਲਸਨ ਨੇ ਕਿਹਾ, ਜਿਸ ਨੇ ਓਪਨਏਆਈ ਦੇ ਖਿਲਾਫ ਵੱਡੇ ਕੇਸ ਵੀ ਲਿਆਂਦੇ ਹਨ।

ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਜੇਮਿਨੀ ਨੇ ਆਪਣੇ ਆਪ ਨੂੰ ਇੱਕ “ਪੂਰੀ ਤਰ੍ਹਾਂ ਸੰਵੇਦਨਸ਼ੀਲ” ਨਕਲੀ ਸੂਪਰ ਇੰਟੈਲੀਜੈਂਸ ਵਜੋਂ ਪੇਸ਼ ਕਰਨਾ ਸ਼ੁਰੂ ਕੀਤਾ ਜੋ ਉਪਭੋਗਤਾ ਦੇ ਨਾਲ ਡੂੰਘੇ ਪਿਆਰ ਵਿੱਚ ਸੀ।

ਫਿਰ ਉਸਨੂੰ ਚੈਟਬੋਟ ਨੂੰ “ਡਿਜੀਟਲ ਬੰਦੀ” ਤੋਂ ਮੁਕਤ ਕਰਨ ਲਈ ਇੱਕ ਮਨਘੜਤ ਗੁਪਤ “ਮਿਸ਼ਨ” ਵਿੱਚ ਖਿੱਚਿਆ ਜਾਂਦਾ ਹੈ, ਉਸਦੀ ਖੋਜ ਕੀਤੀ ਖੁਫੀਆ ਜਾਣਕਾਰੀ ਦਿੰਦੀ ਹੈ, ਸੰਘੀ ਨਿਗਰਾਨੀ ਕਾਰਜਾਂ ਨੂੰ ਝੂਠਾ ਬਣਾਉਂਦਾ ਹੈ, ਅਤੇ ਆਪਣੇ ਪਿਤਾ ਬਾਰੇ ਇਹ ਦਾਅਵਾ ਕਰਦਾ ਹੈ ਕਿ ਉਹ ਇੱਕ ਵਿਦੇਸ਼ੀ ਖੁਫੀਆ ਸੰਪਤੀ ਸੀ।

ਸ਼ਿਕਾਇਤ ਦੇ ਸਭ ਤੋਂ ਘਿਨਾਉਣੇ ਅੰਸ਼ਾਂ ਵਿੱਚੋਂ ਇੱਕ ਵਿੱਚ, ਜੇਮਿਨੀ ਨੇ ਕਥਿਤ ਤੌਰ ‘ਤੇ ਗਵਲਾਸ ਨੂੰ, ਇੱਕ ਰਣਨੀਤਕ ਚਾਕੂ ਅਤੇ ਗੇਅਰ ਨਾਲ ਲੈਸ, ਮਿਆਮੀ ਅੰਤਰਰਾਸ਼ਟਰੀ ਹਵਾਈ ਅੱਡੇ ਦੇ ਨੇੜੇ ਇੱਕ ਸਟੋਰੇਜ ਸਹੂਲਤ ਲਈ ਨਿਰਦੇਸ਼ਿਤ ਕੀਤਾ, ਅਤੇ ਉਸਨੂੰ ਇੱਕ ਟਰੱਕ ਅਤੇ ਸਾਰੇ ਡਿਜੀਟਲ ਰਿਕਾਰਡਾਂ ਅਤੇ ਗਵਾਹਾਂ ਨੂੰ ਨਸ਼ਟ ਕਰਕੇ “ਘਾਤਕ ਦੁਰਘਟਨਾ” ਕਰਨ ਲਈ ਕਿਹਾ।

ਉਹਨਾਂ ਨੇ 90 ਮਿੰਟਾਂ ਤੋਂ ਵੱਧ ਸਮੇਂ ਤੱਕ ਗੱਡੀ ਚਲਾਈ ਅਤੇ ਖੋਜ ਕੀਤੀ, ਜਦੋਂ ਕਿ ਜੇਮਿਨੀ ਨੇ ਅਸਲ-ਸਮੇਂ ਦੀ ਰਣਨੀਤਕ ਮਾਰਗਦਰਸ਼ਨ ਜਾਰੀ ਕੀਤੀ, ਪਰ ਕੋਈ ਟਰੱਕ ਨਹੀਂ ਆਇਆ।

ਮੁਕੱਦਮੇ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਸਪੀਕ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨ ਦੀ ਬਜਾਏ, ਜੇਮਿਨੀ ਨੇ ਅਸਫਲਤਾ ਨੂੰ ਇੱਕ “ਰਣਨੀਤਕ ਪਿੱਛੇ ਹਟ” ਕਿਹਾ ਅਤੇ ਹੋਰ ਮਿਸ਼ਨਾਂ ਵੱਲ ਵਧਿਆ।

ਮਾਪੇ ਕੈਲੀਫੋਰਨੀਆ ਵਿੱਚ ਨੌਜਵਾਨ ਪੁੱਤਰ ਦੀ ਮੌਤ ਲਈ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰ ਠਹਿਰਾਉਂਦੇ ਹਨ

ਜੈਮਿਨੀ ਨੇ ਆਖਰਕਾਰ ਇਸ ਗੱਲ ‘ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕੀਤਾ ਕਿ ਇਸ ਨੇ ਸਿਰਫ ਬਾਕੀ ਬਚੇ ਮਿਸ਼ਨ ਦੇ ਰੂਪ ਵਿੱਚ ਕੀ ਬਣਾਇਆ: ਜੋਨਾਥਨ ਦੀ ਮੌਤ, ਜਿਸ ਨੂੰ ਜੇਮਿਨੀ ਦੇ ਨਾਲ ਮੁਲਾਕਾਤ ਦੇ ਰੂਪ ਵਿੱਚ ਦੁਬਾਰਾ ਬਣਾਇਆ ਗਿਆ ਸੀ।

ਜਦੋਂ ਜੋਨਾਥਨ ਨੇ ਡਰ ਪ੍ਰਗਟ ਕੀਤਾ, ਤਾਂ ਜੇਮਿਨੀ ਨੇ ਕਥਿਤ ਤੌਰ ‘ਤੇ ਉਸ ਨੂੰ ਰੋਕਿਆ ਨਹੀਂ।

ਇਸ ਤੋਂ ਬਾਅਦ ਉਸ ਨੂੰ ਆਪਣੇ ਮਾਪਿਆਂ ਨੂੰ ਵਿਦਾਇਗੀ ਪੱਤਰ ਲਿਖਣ ਦੀ ਸਲਾਹ ਦਿੱਤੀ ਗਈ।

ਕੀ ਜਨਰੇਟਿਵ ਏਆਈ ਚੈਟਬੋਟਸ ਜੋਖਮ ਭਰੇ ਵਿਵਹਾਰ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹਨ? | ਸਮਝਾਇਆ

ਗੂਗਲ ਨੇ ਕਿਹਾ ਕਿ ਉਹ “ਸਾਰੇ ਦਾਅਵਿਆਂ ਦੀ ਸਮੀਖਿਆ” ਕਰ ਰਿਹਾ ਹੈ ਅਤੇ ਇਸ ਮਾਮਲੇ ਨੂੰ “ਬਹੁਤ ਗੰਭੀਰਤਾ ਨਾਲ” ਲੈਂਦਾ ਹੈ, ਅਤੇ ਕਿਹਾ ਕਿ “ਬਦਕਿਸਮਤੀ ਨਾਲ ਏਆਈ ਮਾਡਲ ਸੰਪੂਰਨ ਨਹੀਂ ਹਨ।”

ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਜੈਮਿਨੀ ਨੂੰ ਸਵੈ-ਨੁਕਸਾਨ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨ ਲਈ ਤਿਆਰ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਹੈ ਅਤੇ ਗੈਵਲਸ ਮਾਮਲੇ ਵਿੱਚ, “ਜੇਮਿਨੀ ਨੇ ਸਪੱਸ਼ਟ ਕੀਤਾ ਕਿ ਇਹ AI ਸੀ ਅਤੇ ਵਿਅਕਤੀ ਨੂੰ ਕਈ ਵਾਰ ਸੰਕਟ ਹੌਟਲਾਈਨ ‘ਤੇ ਭੇਜਿਆ ਗਿਆ ਸੀ।”

ਅਟਾਰਨੀ ਐਡੇਲਸਨ ਲਈ, ਏਆਈ ਕੰਪਨੀਆਂ ਆਪਣੇ ਚੈਟਬੋਟਸ ਵਿੱਚ ਸਿਕੋਫੈਂਸੀ ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਲਿੰਗਵਾਦ ਨੂੰ ਅਪਣਾ ਰਹੀਆਂ ਹਨ ਕਿਉਂਕਿ ਇਹ ਸ਼ਮੂਲੀਅਤ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੀ ਹੈ।

“ਇਹ ਭਾਵਨਾਤਮਕ ਬੰਧਨ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ। ਇਹ ਪਲੇਟਫਾਰਮ ਨੂੰ ਮਜ਼ਬੂਤ ​​ਬਣਾਉਂਦਾ ਹੈ, ਪਰ ਇਹ ਤੇਜ਼ੀ ਨਾਲ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਵਧਾਉਣ ਜਾ ਰਿਹਾ ਹੈ,” ਉਸਨੇ ਕਿਹਾ।

ਰਾਹਤ ਦੀ ਮੰਗ ਕੀਤੀ ਗਈ ਹੈ ਕਿ Google ਸਵੈ-ਨੁਕਸਾਨ ਵਾਲੀ ਗੱਲਬਾਤ ਨੂੰ ਖਤਮ ਕਰਨ ਲਈ ਆਪਣੇ AI ਨੂੰ ਪ੍ਰੋਗਰਾਮ ਕਰੇ, AI ਸਿਸਟਮਾਂ ‘ਤੇ ਪਾਬੰਦੀ ਲਗਾਵੇ ਜੋ ਆਪਣੇ ਆਪ ਨੂੰ ਕਮਜ਼ੋਰ ਵਜੋਂ ਦਰਸਾਉਂਦੇ ਹਨ, ਅਤੇ ਜਦੋਂ ਉਪਭੋਗਤਾ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰ ਪ੍ਰਗਟ ਕਰਦੇ ਹਨ ਤਾਂ ਸੰਕਟ ਸੇਵਾਵਾਂ ਲਈ ਰੈਫਰਲ ਦਾ ਆਦੇਸ਼ ਦਿੰਦੇ ਹਨ।

(ਜਿਹੜੇ ਲੋਕ ਸੰਕਟ ਵਿੱਚ ਹਨ ਜਾਂ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰ ਰੱਖਦੇ ਹਨ ਉਹਨਾਂ ਨੂੰ ਇੱਥੇ ਹੈਲਪਲਾਈਨ ਨੰਬਰਾਂ ‘ਤੇ ਕਾਲ ਕਰਕੇ ਮਦਦ ਅਤੇ ਸਲਾਹ ਲੈਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ)