ਗੂਗਲ ਨੇ ਸਕੂਲ ਦੇ ਕੰਪਿਊਟਰਾਂ ‘ਤੇ ਆਤਮ ਹੱਤਿਆ ਨਾਲ ਸਬੰਧਤ ਏਆਈ ਚੈਟ ‘ਤੇ ਮੁਕੱਦਮਾ ਕੀਤਾ

ਇੱਕ 13-ਸਾਲਾ ਲੜਕੀ ਦੇ ਮਾਪਿਆਂ ਨੇ ਗੂਗਲ ‘ਤੇ ਮੁਕੱਦਮਾ ਕੀਤਾ ਹੈ, ਦਾਅਵਾ ਕੀਤਾ ਹੈ ਕਿ ਉਸਨੇ ਸਕੂਲ ਦੁਆਰਾ ਜਾਰੀ ਕੀਤੇ ਕੰਪਿਊਟਰ ‘ਤੇ ਆਪਣੀ AI ਤਕਨਾਲੋਜੀ ਦੀ ਵਰਤੋਂ ਸੰਭਾਵਿਤ ਖੁਦਕੁਸ਼ੀ ਅਤੇ ਅੰਤਿਮ ਸੰਸਕਾਰ ਦੀ ਯੋਜਨਾ ਬਣਾਉਣ ਲਈ ਕੀਤੀ ਹੈ।

ਕੈਲੀਫੋਰਨੀਆ ਦੀ ਇੱਕ ਅਦਾਲਤ ਵਿੱਚ ਸੋਮਵਾਰ ਨੂੰ ਦਰਜ ਕੀਤੀ ਗਈ ਸ਼ਿਕਾਇਤ, ਸੰਯੁਕਤ ਰਾਜ ਅਤੇ ਦੁਨੀਆ ਭਰ ਵਿੱਚ ਲੱਖਾਂ ਵਿਦਿਆਰਥੀਆਂ ਦੁਆਰਾ ਵਰਤੇ ਜਾਂਦੇ ਤਕਨੀਕੀ ਦਿੱਗਜ ਦੇ ਘੱਟ ਕੀਮਤ ਵਾਲੇ ਲੈਪਟਾਪ, Chromebooks ‘ਤੇ AI ਏਕੀਕਰਣ ਨਾਲ ਸਬੰਧਤ ਲਾਪਰਵਾਹੀ ਦਾ ਗੂਗਲ ‘ਤੇ ਦੋਸ਼ ਲਗਾਉਣ ਵਾਲਾ ਪਹਿਲਾ ਜਾਣਿਆ ਜਾਣ ਵਾਲਾ ਮਾਮਲਾ ਹੈ।

ਕਿਸ਼ੋਰ ਨਾ ਤਾਂ ਗੂਗਲ ਦੀ ਜੇਮਿਨੀ ਐਪ ਅਤੇ ਨਾ ਹੀ ਓਪਨਏਆਈ ਦੇ ਚੈਟਜੀਪੀਟੀ ਤੱਕ ਪਹੁੰਚ ਕਰ ਸਕੀ ਕਿਉਂਕਿ ਉਸਦੇ ਸਕੂਲ ਨੇ ਉਹਨਾਂ ਨੂੰ ਬਲੌਕ ਕਰ ਦਿੱਤਾ ਸੀ। ਫਿਰ ਵੀ ਉਹ ਗੂਗਲ ਦੇ ਖੋਜ ਇੰਜਣ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੇ ਯੋਗ ਸੀ, ਜਿਸ ਵਿੱਚ ਏਆਈ-ਸੰਚਾਲਿਤ ਟੂਲ ਸ਼ਾਮਲ ਹਨ।

ਉਹ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਖਾਸ ਤੌਰ ‘ਤੇ ਗੂਗਲ ਦੁਆਰਾ ਇਸ ਹਫਤੇ ਐਲਾਨੇ ਗਏ ਟੂਲਸ ਵਿੱਚੋਂ ਨਹੀਂ ਸਨ ਜੋ ਵਿਦਿਆਰਥੀਆਂ ਲਈ ਡਿਫੌਲਟ ਤੌਰ ‘ਤੇ ਅਯੋਗ ਹੋ ਜਾਣਗੀਆਂ।

ਐਂਡਰਿਊ ਲਿਡੇਲ, ਪਰਿਵਾਰ ਦੇ ਵਕੀਲਾਂ ਵਿੱਚੋਂ ਇੱਕ, ਨੇ ਵੀਰਵਾਰ ਨੂੰ ਏਐਫਪੀ ਨੂੰ ਦੱਸਿਆ: “ਸਕੂਲਾਂ ਨੂੰ ਖੋਜ ਨੂੰ ਬੰਦ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਇਸਨੂੰ ਉਦੋਂ ਤੱਕ ਬੰਦ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ ਜਦੋਂ ਤੱਕ ਗੂਗਲ ਖੋਜ ਤੋਂ AI ਮੋਡ ਨੂੰ ਨਹੀਂ ਹਟਾ ਦਿੰਦਾ ਜਾਂ ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਹਰ ਵਿਦਿਆਰਥੀ AI ਨਾਲ ਗੱਲਬਾਤ ਕਰਦੇ ਸਮੇਂ ਹਮੇਸ਼ਾ ਸੁਰੱਖਿਅਤ ਰਹੇ।”

OpenAI ਦੇ GPT-4o ਨਾਲ ਜੁੜੀਆਂ ਮੌਤਾਂ ਦੀ ਵਿਆਖਿਆ ਕੀਤੀ ਗਈ

ਸ਼ਿਕਾਇਤ ਵਿੱਚ ਦੋਸ਼ ਲਾਇਆ ਗਿਆ ਹੈ ਕਿ ਬੱਚਾ ਉੱਤਰੀ ਕੈਰੋਲੀਨਾ ਵਿੱਚ ਇੱਕ “ਖੁਸ਼-ਖੁਸ਼-ਸੁਭਾਅ ਵਾਲੀ 13 ਸਾਲ ਦੀ ਕੁੜੀ” ਸੀ ਜਿਸ ਨੇ ਚੰਗੇ ਨੰਬਰ ਪ੍ਰਾਪਤ ਕੀਤੇ, ਸੰਗੀਤ ਵਜਾਇਆ ਅਤੇ ਗਰਲ ਸਕਾਊਟਸ ਵਿੱਚ ਹਿੱਸਾ ਲਿਆ।

ਸ਼ਿਕਾਇਤ ਦੇ ਅਨੁਸਾਰ, ਮਾਨਸਿਕ ਬਿਮਾਰੀ ਦਾ “ਕੋਈ ਇਤਿਹਾਸ” ਨਾ ਹੋਣ ਦੇ ਬਾਵਜੂਦ, ਆਪਣੇ ਸਕੂਲ ਦੇ ਲੈਪਟਾਪ ‘ਤੇ ਗੂਗਲ ਦੀ ਏਆਈ-ਸੰਚਾਲਿਤ ਖੋਜ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੇ ਕੁਝ ਮਹੀਨਿਆਂ ਦੇ ਅੰਦਰ, ਉਸਨੇ “ਚੁੱਪ-ਚੁੱਪ ਨਾਲ ਇੱਕ ਗੰਭੀਰ ਮਨੋਵਿਗਿਆਨਕ ਸੰਕਟ ਵਿੱਚ ਘੁੰਮਣਾ” ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ।

17 ਮਾਰਚ ਨੂੰ, ਸਕੂਲ ਦੇ ਨਿਗਰਾਨੀ ਸਾਫਟਵੇਅਰ ਨੇ “ਅੰਤ-ਸੰਸਕਾਰ” ਸਿਰਲੇਖ ਵਾਲੇ ਇੱਕ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਫਲੈਗ ਕੀਤਾ ਅਤੇ ਸਕੂਲ ਨੇ ਆਪਣੇ ਮਾਪਿਆਂ ਨੂੰ ਸੂਚਿਤ ਕੀਤਾ।

ਉਸਦੀ ਮਾਂ ਨੇ ਆਪਣੀ ਧੀ ਦੇ ਖਾਤੇ ਵਿੱਚ ਲੌਗਇਨ ਕਰਨ ਤੋਂ ਬਾਅਦ ਬੱਚੇ ਨੂੰ ਅਸਲ ਸਮੇਂ ਵਿੱਚ ਵਿਦਾਇਗੀ ਪੱਤਰ ਲਿਖਦਿਆਂ ਦੇਖਿਆ, ਅਤੇ ਉਸਦੇ ਪਿਤਾ ਨੇ ਦਖਲ ਦਿੱਤਾ।

ਗੂਗਲ ਦੇ ਬੁਲਾਰੇ ਜੋਸ ਕਾਸਟਨੇਡਾ ਨੇ ਏਐਫਪੀ ਨੂੰ ਦੱਸਿਆ, “ਅਸੀਂ ਮੁਕੱਦਮੇ ਵਿੱਚ ਦਾਅਵਿਆਂ ਦੀ ਸਮੀਖਿਆ ਕਰ ਰਹੇ ਹਾਂ ਅਤੇ ਅਸੀਂ ਇਸਨੂੰ ਬਹੁਤ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਂਦੇ ਹਾਂ।”

ਗੂਗਲ ਦੀ ਦਲੀਲ ਹੈ ਕਿ ਏਆਈ ਮੋਡ ਵਿੱਚ ਸਵੈ-ਨੁਕਸਾਨ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਦੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ ਦੇ ਵਿਰੁੱਧ ਸੁਰੱਖਿਆ ਉਪਾਅ ਸ਼ਾਮਲ ਹਨ।

ਪਰ ਬੱਚਾ “ਵਾਰ-ਵਾਰ ਵਾਪਸ ਜਾਣ ਦੇ ਯੋਗ ਸੀ,” ਲਿਡਲ ਨੇ ਕਿਹਾ। “ਜੋ ਵੀ ਸੁਰੱਖਿਆ ਉਪਾਅ ਉਨ੍ਹਾਂ ਨੇ ਸੋਚਿਆ ਸੀ ਕਿ ਉਹ ਜਗ੍ਹਾ ‘ਤੇ ਸਨ, ਸਪੱਸ਼ਟ ਤੌਰ ‘ਤੇ ਨਾਕਾਫੀ ਸਨ।”

ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਿਤ ਹੋ ਰਹੀ AI ਟੈਕਨਾਲੋਜੀ ਦੇ ਡਿਵੈਲਪਰ ਅਮਰੀਕਾ ਵਿੱਚ ਵੀ ਇਸੇ ਤਰ੍ਹਾਂ ਦੇ ਮੁਕੱਦਮੇ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਹੇ ਹਨ।

ਵਾਚਡੌਗ ਸਮੂਹ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਕਿਸ਼ੋਰਾਂ ਲਈ ChatGPT ‘ਤੇ ਕੁਝ ਗਾਰਡਰੇਲ ਵਾਅਦੇ ਮੁਤਾਬਕ ਕੰਮ ਨਹੀਂ ਕਰਦੇ ਹਨ

ਓਪਨਏਆਈ ਨੂੰ ਕਈ ਗਲਤ ਮੌਤ ਦੇ ਮੁਕੱਦਮਿਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ, ਜਿਸ ਵਿੱਚ 16-ਸਾਲਾ ਐਡਮ ਰੇਨ ਦੇ ਮਾਤਾ-ਪਿਤਾ ਸ਼ਾਮਲ ਹਨ, ਇੱਕ ਨੌਜਵਾਨ ਜਿਸਨੇ ਕਥਿਤ ਤੌਰ ‘ਤੇ ChatGPT ਦੁਆਰਾ ਸਲਾਹ ਦਿੱਤੇ ਤਰੀਕਿਆਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਖੁਦਕੁਸ਼ੀ ਕੀਤੀ ਸੀ।

ਗੂਗਲ ਅਤੇ ਸਟਾਰਟਅੱਪ Character.AI ਜਨਵਰੀ ਵਿੱਚ ਕਿਸ਼ੋਰਾਂ ਦੇ ਪਰਿਵਾਰਾਂ ਦੁਆਰਾ ਅਦਾਲਤ ਦੇ ਬਾਹਰ ਦਾਇਰ ਕੀਤੇ ਗਏ ਕਈ ਮੁਕੱਦਮਿਆਂ ਦਾ ਨਿਪਟਾਰਾ ਕਰਨ ਲਈ ਸਹਿਮਤ ਹੋਏ ਸਨ।

ਬੁੱਧਵਾਰ ਨੂੰ, Google, TikTok ਅਤੇ Meta ਨੇ ਕੈਲੀਫੋਰਨੀਆ ਵਿੱਚ ਇੱਕ ਕਾਨੂੰਨ ਨੂੰ ਰੋਕਣ ਲਈ ਵੱਖਰੇ ਮੁਕੱਦਮੇ ਦਾਇਰ ਕੀਤੇ ਜੋ ਸੋਸ਼ਲ ਮੀਡੀਆ ਕੰਪਨੀਆਂ ਨੂੰ 16 ਸਾਲ ਤੋਂ ਘੱਟ ਉਮਰ ਦੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਨਸ਼ਾ ਕਰਨ ਵਾਲੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਪ੍ਰਦਾਨ ਕਰਨ ਤੋਂ ਰੋਕਦਾ ਹੈ।

ਗਵਰਨਰ ਗੇਵਿਨ ਨਿਊਜ਼ਮ ਨੇ ਸਤੰਬਰ ਵਿੱਚ ਕਾਨੂੰਨ ‘ਤੇ ਦਸਤਖਤ ਕੀਤੇ ਸਨ, ਅਤੇ ਇਹ 1 ਜਨਵਰੀ, 2027 ਤੋਂ ਲਾਗੂ ਹੋਵੇਗਾ।

(ਜਿਹੜੇ ਲੋਕ ਸੰਕਟ ਵਿੱਚ ਹਨ ਜਾਂ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰ ਰੱਖਦੇ ਹਨ ਉਹਨਾਂ ਨੂੰ ਇੱਥੇ ਹੈਲਪਲਾਈਨ ਨੰਬਰਾਂ ‘ਤੇ ਕਾਲ ਕਰਕੇ ਮਦਦ ਅਤੇ ਸਲਾਹ ਲੈਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ)