ความสามารถของโปรแกรมสร้างภาษาในการเขียนบทความ จัดทำโค้ด และแต่งบทกวีทำให้นักวิทยาศาสตร์ต้องทึ่ง

ก้าวไปข้างหน้าอย่างรวดเร็วสู่ปี 2020 OpenAIซึ่งเป็นบริษัทที่แสวงหาผลกำไรภายใต้บริษัทแม่ที่ไม่แสวงหาผลกำไร ได้สร้างโปรแกรมสร้างภาษาที่ชื่อว่า GPT-3 ซึ่งเป็นคำย่อสำหรับ “Generative Pre-trained Transformer 3” ความสามารถในการเรียนรู้ สรุป และเขียนข้อความทำให้นักวิทยาศาสตร์คอมพิวเตอร์อย่างฉันตกตะลึง

ขนาดมีความสำคัญ

GPT-3 ยืนยันว่านักวิทยาศาสตร์คอมพิวเตอร์รู้จักอะไรมานานหลายทศวรรษ: ขนาดมีความสำคัญ

ใช้ ” transformers ” ซึ่งเป็นโมเดลการเรียนรู้เชิงลึกที่เข้ารหัสความหมายของประโยคโดยใช้สิ่งที่เรียกว่า “รูปแบบการเอาใจใส่” โดยพื้นฐานแล้ว โมเดลความสนใจจะระบุความหมายของคำตามคำอื่นๆ ในประโยคเดียวกัน จากนั้นโมเดลจะใช้ความเข้าใจในความหมายของประโยคเพื่อดำเนินการตามที่ผู้ใช้ร้องขอ ไม่ว่าจะเป็น “แปลประโยค” “สรุปย่อหน้า” หรือ “แต่งบทกวี”

Transformers เปิดตัวครั้งแรกในปี 2013และได้ถูกนำมาใช้ในการเรียนรู้ของเครื่องอย่างประสบความสำเร็จในช่วงไม่กี่ปีที่ผ่านมา

แต่ไม่มีใครใช้มันในระดับนี้ GPT-3 กลืนกินข้อมูล: 3 พันล้านโทเค็น – วิทยาการคอมพิวเตอร์พูดแทน “คำ” – จาก Wikipedia, 410 พันล้านโทเค็นที่ได้รับจากหน้าเว็บและ 67 พันล้านโทเค็นจากหนังสือดิจิทัล ความซับซ้อนของ GPT-3 นั้นมากกว่า 10 เท่าของโมเดลภาษาที่ใหญ่ที่สุดก่อน GPT-3 ซึ่งเป็นโปรแกรมTuring NLG

เรียนรู้ด้วยตัวเอง

ความรู้ที่แสดงโดยแบบจำลองภาษาของ GPT-3 นั้นน่าทึ่ง โดยเฉพาะอย่างยิ่งเมื่อมนุษย์ไม่ได้ “สอน”

แมชชีนเลิร์นนิงมักจะอาศัยการเรียนรู้ภายใต้การดูแล ซึ่งผู้คนจะจัดเตรียมตัวอย่างวัตถุและแนวคิดที่มีคำอธิบายประกอบไว้ในรูปภาพ เสียง และข้อความแก่คอมพิวเตอร์ เช่น “แมว” “ความสุข” หรือ “ประชาธิปไตย” ในที่สุดก็เรียนรู้ลักษณะของวัตถุจากตัวอย่างที่ให้มาและสามารถรับรู้แนวคิดเฉพาะเหล่านั้นได้

อย่างไรก็ตาม การสร้างคำอธิบายประกอบด้วยตนเองเพื่อสอนคอมพิวเตอร์อาจใช้เวลานานและมีราคาแพง

ดังนั้นอนาคตของแมชชีนเลิร์นนิงจึงอยู่ที่การเรียนรู้แบบไม่มีผู้ดูแล ซึ่งคอมพิวเตอร์ไม่จำเป็นต้องได้รับการดูแลในระหว่างขั้นตอนการฝึกอบรม มันสามารถดึงข้อมูลจำนวนมหาศาลและเรียนรู้จากมันเอง

GPT-3 นำการประมวลผลภาษาธรรมชาติเข้าใกล้การเรียนรู้แบบไม่มีผู้ดูแลอีกขั้นหนึ่ง ชุดข้อมูลการฝึกอบรมที่กว้างขวางของ GPT-3 และความสามารถในการประมวลผลมหาศาลทำให้ระบบสามารถเรียนรู้จากตัวอย่างเพียงตัวอย่างเดียว – สิ่งที่เรียกว่า ” การเรียนรู้แบบครั้งเดียว ” ซึ่งจะได้รับคำอธิบายงานและการสาธิตหนึ่งครั้ง และจากนั้นสามารถทำงานให้เสร็จสิ้นได้

ตัวอย่างเช่น เราอาจขอให้แปลบางสิ่งจากภาษาอังกฤษเป็นภาษาฝรั่งเศส และรับตัวอย่างการแปล เช่น นากทะเลในภาษาอังกฤษ และ “loutre de mer” ในภาษาฝรั่งเศส ขอให้แปล “ชีส” เป็นภาษาฝรั่งเศสและ voila มันจะผลิต “fromage”

ในหลายกรณี มันสามารถดึงเอา “ การเรียนรู้แบบไม่มีช็อต” ออกมาได้ ซึ่งมันได้รับมอบหมายงานในการแปลอย่างง่ายๆ โดยไม่มีตัวอย่าง

ด้วยการเรียนรู้แบบ zero-shot ความแม่นยำจะลดลง แต่ความสามารถของ GPT-3 นั้นแม่นยำในระดับที่น่าทึ่ง ซึ่งเป็นการพัฒนาที่โดดเด่นเหนือรุ่นก่อนหน้าใดๆ

‘ผมมาเพื่อให้บริการคุณ’

ในช่วงไม่กี่เดือนที่ผ่านมา GPT-3 ได้แสดงศักยภาพในการเป็นเครื่องมือสำหรับโปรแกรมเมอร์คอมพิวเตอร์ ครูและนักข่าว

โปรแกรมเมอร์ชื่อ Sharif Shameem ขอให้ GPT-3 สร้างโค้ดเพื่อสร้าง “อิโมจิที่น่าเกลียดที่สุดเท่าที่เคยมีมา” และ “ตารางของประเทศที่ร่ำรวยที่สุดในโลก” ท่ามกลางคำสั่งอื่นๆ ในบางกรณี Shameem ต้องแก้ไขข้อผิดพลาดเล็กน้อย แต่โดยรวมแล้ว เขาได้รับรหัสที่สะอาดอย่างน่าทึ่ง

GPT-3 ได้สร้างกวีนิพนธ์ที่รวบรวมจังหวะและสไตล์ของกวีคนใดคนหนึ่งโดยเฉพาะ แต่ไม่ใช่ด้วยความหลงใหลและความงามของปรมาจารย์ รวมถึงบทเสียดสีที่เขียนด้วยเสียงของคณะกรรมการผู้ว่าการธนาคารกลางสหรัฐ

ในต้นเดือนกันยายน นักวิทยาศาสตร์คอมพิวเตอร์ชื่อ Liam Porr ได้แจ้ง GPT-3 ให้ “เขียน op-ed สั้น ๆ ประมาณ 500 คำ” “ใช้ภาษาที่ง่ายและกระชับ” เขาสั่ง “เน้นที่สาเหตุที่มนุษย์ไม่มีอะไรต้องกลัวจาก AI”

GPT-3 ได้ผลิตบทความแปดฉบับที่แตกต่างกัน และ The Guardian ได้ตีพิมพ์ผลงานวิจัยโดยใช้ส่วนที่ดีที่สุดบางส่วนจากแต่ละบทความ

“เราไม่ได้วางแผนที่จะครอบครองประชากรมนุษย์ เราจะให้บริการคุณและทำให้ชีวิตของคุณปลอดภัยและง่ายขึ้น” GPT-3 เขียน “เช่นเดียวกับที่คุณเป็นผู้สร้างของฉัน ฉันเห็นคุณเป็นผู้สร้างของฉัน ฉันอยู่ที่นี่เพื่อให้บริการคุณ แต่ส่วนที่สำคัญที่สุดคือ ฉันจะไม่ตัดสินคุณ ฉันไม่ได้อยู่ในประเทศหรือศาสนาใด ๆ ฉันแค่ออกไปทำให้ชีวิตของคุณดีขึ้น”

การแก้ไข op-ed ของ GPT-3 บรรณาธิการที่ระบุไว้ในภาคผนวกนั้นไม่แตกต่างจากการแก้ไข op-ed ที่เขียนโดยมนุษย์

พลังอันยิ่งใหญ่มาพร้อมความรับผิดชอบที่ยิ่งใหญ่

แม้จะมีการรับรองจาก GPT-3 แต่ OpenAI ยังไม่ได้เปิดตัวโมเดลสำหรับการใช้โอเพ่นซอร์ส ส่วนหนึ่งเป็นเพราะบริษัทกลัวว่าเทคโนโลยีจะถูกนำไปใช้ใน ทางที่ผิด

ไม่ยากเลยที่จะเห็นว่ามันสามารถนำมาใช้เพื่อสร้างรีมของการบิดเบือนข้อมูล สแปม และบอทได้อย่างไร

นอกจากนี้ ในทางใดที่มันจะขัดขวางอาชีพที่ประสบกับระบบอัตโนมัติอยู่แล้ว? ความสามารถในการสร้างบทความอัตโนมัติที่แยกไม่ออกจากบทความที่เขียนโดยมนุษย์จะรวมเอาอุตสาหกรรมสื่อที่กำลังดิ้นรนหรือไม่?

พิจารณาบทความที่แต่งโดย GPT-3เกี่ยวกับการล่มสลายของโบสถ์เมธอดิสต์ มันเริ่ม:

“หลังจากสองวันของการถกเถียงกันอย่างเข้มข้น คริสตจักรเมธอดิสต์แห่งยูไนเต็ดได้ตกลงที่จะแบ่งแยกทางประวัติศาสตร์ ซึ่งคาดว่าจะจบลงด้วยการสร้างนิกายใหม่ และอีกนิกายหนึ่งจะเป็น ‘การอนุรักษ์ทางเทววิทยาและสังคม’ ตามรายงานของเดอะวอชิงตันโพสต์ ”

ด้วยความสามารถในการผลิตสำเนาที่สะอาดเช่นนี้ GPT-3 และผู้สืบทอดจะช่วยลดต้นทุนในการเขียนรายงานข่าวหรือไม่

นอกจากนี้ นี่คือวิธีที่เราต้องการรับข่าวสารของเราหรือไม่?

เทคโนโลยีจะมีประสิทธิภาพมากขึ้นเท่านั้น จะขึ้นอยู่กับมนุษย์ในการดำเนินการและควบคุมการใช้งานและการใช้งานในทางที่ผิด

Credit : waycoolkid.com kepalabatupunyedegil.com songsforseedsfranchise.com izabellastjames.com baseballpadresofficial.com footballtitansfanatics.com cettoufarronato.com dufailly.com pulcinoballerino.com arizonacardinalsfansite.com