ในยุคที่ AI เข้ามามีบทบาทในชีวิตประจำวันมากขึ้น แม้ผู้เชี่ยวชาญจะเตือนไม่ให้พึ่งพา AI อย่างเดียวสำหรับปัญหาด้านสุขภาพจิต แต่ผู้คนจำนวนมากยังคงใช้โปรแกรมอย่าง ChatGPT เพื่อปรึกษาและขอความช่วยเหลือ ซึ่งที่ผ่านมา OpenAI บริษัทผู้พัฒนาเองก็เคยเผชิญเสียงวิพากษ์วิจารณ์เกี่ยวกับการจัดการประเด็นสุขภาพจิตบางกรณี โดยเฉพาะอย่างยิ่งกรณีที่ผู้ใช้บางรายเสียชีวิตจากการฆ่าตัวตายหลังจากการสนทนากับ ChatGPT เพื่อตอบสนนองต่อประเด็นเหล่านี้ OpenAI จึงได้เปิดตัวระบบตรวจสอบความปลอดภัยแบบสมัครใจใหม่ในชื่อ ChatGPT Trusted Contact สำหรับผู้ใช้งานที่อาจมีความกังวลเกี่ยวกับความคิดของตนเอง
Trusted Contact ทำงานอย่างไร?
ฟีเจอร์ ChatGPT Trusted Contact ถูกออกแบบมาเพื่อให้ผู้ใช้สามารถเลือกบุคคลที่ไว้ใจได้ในชีวิตเพื่อเชื่อมต่อกับบัญชี ChatGPT ของตนเอง โดยมีวัตถุประสงค์เพื่อเป็นเครือข่ายความปลอดภัยเพิ่มเติม ไม่ได้มีไว้สำหรับการแบ่งปันการสนทนาหรือทำงานร่วมกัน แต่หากแชทบอทประเมินว่าการสนทนาส่วนตัวของผู้ใช้กำลังเบี่ยงเบนไปในทิศทางที่น่าเป็นห่วง โดยเฉพาะอย่างยิ่งในเรื่องของการทำร้ายตัวเอง ChatGPT จะแจ้งเตือนไปยัง Trusted Contact เพื่อให้บุคคลนั้นเข้ามาดูแลและให้ความช่วยเหลือผู้ใช้งาน
ขั้นตอนการตั้งค่าใช้งานฟีเจอร์นี้ค่อนข้างตรงไปตรงมา ผู้ใช้ต้องเลือกบุคคลที่ตนเองไว้วางใจ ซึ่งมีอายุ 18 ปีขึ้นไป (หรือ 19 ปีขึ้นไปในเกาหลีใต้) จากนั้น ChatGPT จะส่งคำเชิญไปยังบุคคลดังกล่าวเพื่อเป็น Trusted Contact โดยผู้รับคำเชิญมีเวลาหนึ่งสัปดาห์ในการตอบรับ หากเกินเวลาก็จะหมดอายุไปเอง และแน่นอนว่าพวกเขาสามารถปฏิเสธคำเชิญได้หากไม่ต้องการเข้าร่วม
เมื่อผู้ติดต่อตอบตกลง ระบบก็จะเริ่มทำงาน หากในอนาคตระบบอัตโนมัติของ OpenAI ตรวจพบว่าผู้ใช้กำลังพูดคุยเกี่ยวกับการทำร้ายตัวเองในลักษณะที่ “บ่งชี้ถึงความกังวลด้านความปลอดภัยอย่างร้ายแรง” ChatGPT จะแจ้งให้ผู้ใช้ทราบว่าอาจมีการติดต่อ Trusted Contact และยังส่งเสริมให้ผู้ใช้ติดต่อบุคคลนั้นด้วยตัวเอง พร้อมทั้งให้ “ประโยคเริ่มต้นการสนทนา” เพื่อช่วยให้ง่ายขึ้น
ในระหว่างที่กระบวนการแจ้งเตือนนี้ดำเนินอยู่ ทีมงาน “ผู้เชี่ยวชาญที่ได้รับการฝึกฝนมาเป็นพิเศษ” ของ OpenAI จะเข้ามาวิเคราะห์สถานการณ์เพิ่มเติม ซึ่งแสดงให้เห็นว่ากระบวนการไม่ได้เป็นไปโดยอัตโนมัติทั้งหมด หากทีมงานสรุปว่าสถานการณ์มีความร้ายแรง ChatGPT จะแจ้งเตือนไปยัง Trusted Contact ผ่านทางอีเมล, ข้อความ หรือการแจ้งเตือนในแอป ChatGPT หากบุคคลนั้นมีบัญชีอยู่แล้ว OpenAI ยืนยันว่าการแจ้งเตือนจะมีข้อมูลที่จำกัดมาก โดยจะแบ่งปันเพียงข้อมูลทั่วไปเกี่ยวกับความกังวลในการทำร้ายตัวเอง และแนะนำให้ผู้ติดต่อติดต่อผู้ใช้งานเอง จะไม่มีการส่งบันทึกการสนทนาหรือสรุปข้อมูลใดๆ เพื่อรักษาความเป็นส่วนตัวของผู้ใช้งาน
ความมุ่งมั่นของ OpenAI เพื่อความปลอดภัยทางใจ
OpenAI ระบุว่ากำลังดำเนินการทบทวนการแจ้งเตือนด้านความปลอดภัยให้เสร็จสิ้นภายในหนึ่งชั่วโมง ซึ่งเป็นความพยายามเพื่อให้การช่วยเหลือรวดเรเร็วยิ่งขึ้น ฟีเจอร์นี้ได้รับการพัฒนาขึ้นโดยได้รับคำแนะนำจากแพทย์, นักวิจัย และองค์กรด้านสุขภาพจิตและการป้องกันการฆ่าตัวตาย ทำให้มั่นใจได้ว่าแนวทางปฏิบัติมีความถูกต้องและเหมาะสม
ฟีเจอร์ Trusted Contact เป็นไปตามความสมัครใจโดยสมบูรณ์ ผู้ใช้จะต้องลงทะเบียนด้วยตนเองและเลือกผู้ติดต่อด้วยตนเอง หากพวกเขารู้สึกว่าสิ่งนี้จะเป็นประโยชน์ ซึ่งนี่อาจเป็นวิธีที่มีประโยชน์สำหรับเพื่อนและครอบครัวในการตรวจสอบและให้ความช่วยเหลือผู้คนที่กำลังประสบปัญหาด้านสุขภาพใจ เมื่อพวกเขากำลังแบ่งปันความคิดเหล่านี้กับ ChatGPT
มุมมองจากบรรณาธิการ: ก้าวสำคัญสู่ AI ที่ห่วงใยผู้ใช้งาน
การเปิดตัวฟีเจอร์ Trusted Contact ของ OpenAI ถือเป็นก้าวสำคัญที่แสดงให้เห็นถึงความพยายามในการรับผิดชอบต่อผลกระทบด้านสุขภาพจิตของผู้ใช้งาน เรามองว่านี่คือการสร้างสมดุลระหว่างความเป็นส่วนตัวกับความปลอดภัย ซึ่งเป็นเรื่องละเอียดอ่อนและท้าทายอย่างยิ่งในโลกของ AI แม้ฟีเจอร์นี้จะเป็นแบบสมัครใจและไม่ได้สมบูรณ์แบบ แต่ก็เป็นสัญญาณที่ดีที่เทคโนโลยี AI กำลังถูกพัฒนาให้มีความเข้าใจและเอื้ออาทรต่อมนุษย์มากขึ้น สำหรับผู้ที่รู้สึกว่าต้องการความช่วยเหลือหรือมีแนวโน้มที่จะทำร้ายตัวเอง การมีเครือข่ายสนับสนุนเพิ่มเติมนี้ อาจเป็นตัวช่วยสำคัญที่ทำให้เพื่อนและครอบครัวสามารถเข้ามาดูแลได้ทันท่วงที สะท้อนให้เห็นว่า AI ไม่ได้เป็นเพียงเครื่องมือ แต่สามารถเป็นส่วนหนึ่งของระบบนิเวศแห่งการดูแลซึ่งกันและกันได้ด้วย.
ที่มา: lifehacker.com
ข่าวที่เกี่ยวข้อง
- Hisense U8QG QLED TV 100 นิ้ว ลดราคาครั้งใหญ่ มอบประสบการณ์โรงหนังส่วนตัวในบ้าน
- Bose SoundLink Plus ลดราคาครั้งใหญ่! ลำโพงบลูทูธยอดนิยมเหลือเพียง 219 ดอลลาร์
- นักวิ่งมาราธอนจับคู่กับนักยกน้ำหนัก เผยกลยุทธ์พิชิต Hyrox ในเวลาเตรียมตัวเพียง 4 สัปดาห์
- Samsung HW-Q990F ซาวด์บาร์เรือธง ลดราคาเกือบครึ่ง มอบประสบการณ์ Dolby Atmos เต็มอิ่ม
