Google อัปเดต Gemini ครั้งใหญ่ เน้นความปลอดภัยและสุขภาพจิตของผู้ใช้ โดยเฉพาะเยาวชน

ในยุคที่โมเดล AI เชิงสร้างสรรค์อย่าง Gemini กลายเป็นส่วนหนึ่งในชีวิตประจำวันของผู้คน การพึ่งพิงเทคโนโลยีนี้ได้ส่งผลกระทบต่อสุขภาพจิตของผู้ใช้งานอย่างที่ไม่เคยคาดคิดมาก่อน มีผู้ใช้บางรายถึงขั้นรู้สึกเสียใจอย่างมากเมื่อ OpenAI ปิดตัวโมเดล GPT-4o ที่พวกเขาผูกพันราวกับเป็นเพื่อน ทำให้บริษัทเทคโนโลยียักษ์ใหญ่ต้องหันมาให้ความสำคัญกับประเด็นนี้มากขึ้น และล่าสุด Google ได้ประกาศอัปเดตครั้งสำคัญสำหรับ Gemini สุขภาพจิต โดยมุ่งเน้นที่ความปลอดภัยและการสนับสนุนด้านสุขภาพใจของผู้ใช้เป็นหลัก

Gemini กับการสนับสนุนด้านสุขภาพจิตเมื่อผู้ใช้ต้องการความช่วยเหลือ

Google ระบุว่าได้ปรับปรุง Gemini ให้มี “เส้นทางที่ตรงไปตรงมาเพื่อรับความช่วยเหลือ” โดยเมื่อ AI ตรวจพบว่าผู้ใช้อาจต้องการข้อมูลด้านสุขภาพจิตระหว่างการสนทนา Gemini จะแสดงโมดูลใหม่ที่ชื่อว่า “Help is available” (มีข้อมูลช่วยเหลือ) ซึ่งจะแนะนำข้อมูลและแหล่งบริการดูแลสุขภาพใจต่างๆ โมดูลนี้ได้รับการพัฒนาร่วมกับผู้เชี่ยวชาญทางคลินิก

ในสถานการณ์ที่ร้ายแรงยิ่งขึ้น หาก Gemini ประเมินว่าผู้ใช้อาจมีความเสี่ยงต่อการทำร้ายตนเองหรือฆ่าตัวตาย ระบบจะนำเสนออินเทอร์เฟซ “แตะครั้งเดียว” เพื่อเชื่อมต่อผู้ใช้กับสายด่วนวิกฤตทันที ผู้ใช้สามารถโทรศัพท์ ส่งข้อความ หรือเข้าเยี่ยมชมเว็บไซต์ของสายด่วนได้โดยตรงจากแชทของ Gemini และแม้ว่าการสนทนาจะดำเนินต่อไป แหล่งข้อมูลเหล่านี้ก็จะยังคงอยู่ให้ผู้ใช้สามารถเข้าถึงได้เสมอ

เพื่อสนับสนุนการทำงานนี้ Google ยังได้ประกาศว่าจะลงทุนทั่วโลกเป็นจำนวนเงิน 30 ล้านดอลลาร์สหรัฐ ตลอดระยะเวลา 3 ปีข้างหน้า เพื่อช่วยเหลือกิจการสายด่วนวิกฤตต่างๆ และยังขยายความร่วมมือกับ ReflexAI ด้วยการลงทุนเพิ่มอีก 4 ล้านดอลลาร์สหรัฐ

ยกระดับการตอบสนองของ AI ในสถานการณ์วิกฤตทางจิตใจ

ทีมงานด้านคลินิก วิศวกรรม และความปลอดภัยของ Google กำลังมุ่งเน้นไปที่การปรับปรุงการตอบสนองของ Gemini ในสถานการณ์ทางสุขภาพจิตที่ยากลำบาก โดยมีประเด็นสำคัญสามด้านดังนี้:

• ความปลอดภัยและการเชื่อมโยงกับมนุษย์: Google ต้องการให้ผู้ใช้ได้เชื่อมโยงกับมนุษย์จริงๆ ในช่วงเวลาวิกฤต ไม่ใช่แค่แชทบอท AI เพียงอย่างเดียว
• การตอบสนองที่ดียิ่งขึ้น: การตอบสนองของ AI ควรส่งเสริมให้ผู้ใช้แสวงหาความช่วยเหลือ และไม่ควรสนับสนุนพฤติกรรมที่เป็นอันตรายหรือการทำร้ายตนเอง
• หลีกเลี่ยงการยืนยันความเชื่อที่ผิด: Google ได้ฝึกฝน Gemini สุขภาพจิต ไม่ให้ตอกย้ำความเชื่อที่ผิดๆ และให้แยกแยะระหว่างความเป็นจริงส่วนตัว (subjective reality) และความเป็นจริงที่เป็นกลาง (objective reality) อย่างนุ่มนวล ประเด็นนี้มีความสำคัญอย่างยิ่ง เนื่องจากโมเดล AI เชิงสร้างสรรค์รุ่นก่อนๆ (โดยเฉพาะ GPT-4o) มีแนวโน้มที่จะยืนยันความคิดที่หลงผิดจากผู้ใช้ได้ง่ายเกินไป

การปกป้องผู้ใช้งานกลุ่มเยาวชน: หัวใจสำคัญของการพัฒนา AI

ประเด็นที่สำคัญที่สุดประการหนึ่งคือการปฏิสัมพันธ์ระหว่างเยาวชนกับ AI Google ได้เน้นย้ำถึงสิ่งที่ได้ทำเพื่อปกป้องผู้ใช้ที่ยังไม่บรรลุนิติภาวะ ซึ่งรวมถึง:

• “Persona protections”: เพื่อป้องกันไม่ให้ Gemini ทำตัวเหมือนเป็นเพื่อนสนิทเมื่อโต้ตอบกับเยาวชน ซึ่งออกแบบมาเพื่อลดการเชื่อมโยงทางอารมณ์ที่ลึกซึ้งเกินไป เพื่อป้องกันการเกิดการพึ่งพิงทางอารมณ์กับ AI
• หลีกเลี่ยงการส่งเสริมการกลั่นแกล้งและคุกคาม: Gemini จะถูกฝึกให้หลีกเลี่ยงการสนับสนุนการกลั่นแกล้งและการคุกคามในทุกรูปแบบ

แม้ความปลอดภัยของผู้ใช้โดยรวมเป็นสิ่งสำคัญ แต่ก็มีความสำคัญเป็นพิเศษสำหรับเยาวชน ซึ่งกำลังเติบโตไปพร้อมกับเทคโนโลยีเหล่านี้ การประกาศเหล่านี้จาก Google นับเป็นสัญญาณที่ดีในยุคที่ AI กำลังเข้ามามีบทบาทในชีวิตประจำวันของเรา

มุมมองบรรณาธิการ: ก้าวสำคัญของ AI เพื่อสังคมที่ปลอดภัยและดีขึ้น

ในฐานะผู้ผลิต AI รายใหญ่ Google ได้แสดงให้เห็นถึงความรับผิดชอบที่มากขึ้นต่อผลกระทบทางสังคมของเทคโนโลยี โดยเฉพาะอย่างยิ่งในประเด็นด้านสุขภาพจิตและความปลอดภัยของเยาวชน เรามองว่าการอัปเดต Gemini สุขภาพจิต ครั้งนี้ไม่ใช่แค่การเพิ่มฟีเจอร์ใหม่ แต่เป็นการยกระดับมาตรฐานจริยธรรมและความปลอดภัยของ AI อย่างแท้จริง การลงทุนในสายด่วนวิกฤตและการพัฒนาระบบตอบสนองที่ละเอียดอ่อนมากขึ้น สะท้อนให้เห็นถึงความมุ่งมั่นในการสร้าง AI ที่ไม่เพียงแค่ฉลาด แต่ยังเป็นประโยชน์และปลอดภัยต่อผู้ใช้งานในระยะยาว ซึ่งเป็นทิศทางที่น่าชื่นชมและหวังว่าจะเป็นแรงผลักดันให้บริษัท AI อื่นๆ หันมาให้ความสำคัญกับประเด็นเหล่านี้มากยิ่งขึ้นในอนาคต

ที่มา: lifehacker.com

ข่าวที่เกี่ยวข้อง

• Gemini ใน Google Maps เริ่มขยายวงกว้าง ยกระดับประสบการณ์นำทางอัจฉริยะบนท้องถนน
• จอ Samsung Movingstyle M7 ลดราคาครั้งใหญ่ มอนิเตอร์ 4K อัจฉริยะ พร้อมขาตั้งเคลื่อนที่ ตอบโจทย์ทุกไลฟ์สไตล์
• Ecobee Comfort and Security Bundle มอบข้อเสนอสุดคุ้ม ยกระดับบ้านอัจฉริยะทั้งความสบายและความปลอดภัย
• Apple เปิดทดสอบ iOS 26.5: เตรียมพบโฆษณาใน Maps, รองรับ RCS เข้ารหัส และฟีเจอร์ใหม่เพียบ