Google ตัดสินใจระงับฟีเจอร์สร้างภาพด้วย AI บน Google Earth ที่เพิ่งเปิดตัวไปได้ไม่นาน หลังพบว่าผู้ใช้งานสามารถนำความสามารถของ Nano Banana 2 ไปสร้างภาพจำลองสถานที่จริงในลักษณะที่อาจก่อให้เกิดความเข้าใจผิด หรือถูกนำไปใช้สร้างข้อมูลเท็จได้
โดยฟีเจอร์ดังกล่าวนั้นได้ถูกเปิดตัวเมื่อวันที่ 30 กรกฎาคมที่ผ่านมา จากการผสานข้อมูลจากภาพดาวเทียม ภาพถ่ายทางอากาศ และภาพ 3D ของ Google Earth เข้ากับความสามารถในการสร้างภาพของ Nano Banana 2 ทำให้ผู้ใช้สามารถเลือกสถานที่บนแผนที่ แล้วพิมพ์ Prompt เพื่อสร้างภาพในรูปแบบต่าง ๆ ได้ ไม่ว่าจะเป็น การจำลองว่าสถานที่ในอดีตเคยมีหน้าตาอย่างไร สร้างภาพแนวคิดการพัฒนาพื้นที่ หรือสร้าง Infographic เกี่ยวกับสถานที่นั้น ๆ
แต่อย่างไรก็ตามความสามารถดังกล่าวถูกตั้งคำถามอย่างรวดเร็ว เมื่อผู้ใช้งานสามารถนำไปสร้างภาพเหตุการณ์ที่ไม่เคยเกิดขึ้นจริงในสถานที่จริงได้ อย่างการที่นำไปจำลองพื้นที่ให้กลายเป็นเขตสงครามหรือพื้นที่ประสบภัย ซึ่งอาจทำให้ภาพที่สร้างด้วย AI ถูกนำไปเผยแพร่ต่อโดยไม่มีบริบท และทำให้ผู้พบเห็นเข้าใจว่าเป็นภาพจริงได้
และถึงแม้ว่า Google จะระบุว่าภาพที่สร้างขึ้นไม่ได้แสดงบนประสบการณ์ Google Earth หลักให้ผู้ใช้อื่นเห็น และมีการใส่ Watermark เพื่อระบุว่าเป็นภาพที่สร้างด้วย AI แต่เมื่อภาพถูกบันทึกหรือแชร์ออกไปนอกแพลตฟอร์ม ก็ยังมีความกังวลว่าผู้รับสารอาจไม่สามารถแยกแยะได้อย่างชัดเจนว่าเป็นภาพจริงหรือภาพที่สร้างขึ้น
ทำให้ Google จึงตัดสินใจ Rollback ฟีเจอร์ดังกล่าวชั่วคราว พร้อมทั้งระบุว่าจะนำกลับมาอีกครั้งเมื่อมีมาตรการป้องกันที่รัดกุมขึ้น สะท้อนให้เห็นว่าเมื่อ AI สามารถสร้างภาพที่อิงกับสถานที่จริงได้อย่างสมจริงมากขึ้น ความท้าทายไม่ได้อยู่แค่ผู้ใช้งานจะสามารถสร้างภาพได้ดีแค่ไหนแต่ยังรวมถึงคำถามสำคัญว่า AI นั้นควรสร้างภาพอะไร และจะป้องกันไม่ให้ภาพเหล่านั้นถูกนำไปใช้สร้างความเข้าใจผิดอย่างไรได้มากกว่านั่นเอง
