- สิงหาคม 21, 2021
- Vasilis Vryniotiso
- . ไม่มีความคิดเห็น
ฉันกำลังเริ่มบล็อกโพสต์ชุดใหม่เกี่ยวกับการพัฒนาไลบรารี Computer Vision ของ PyTorch ฉันวางแผนที่จะหารือเกี่ยวกับคุณสมบัติที่น่าสนใจที่จะเกิดขึ้นเป็นหลักจาก ทอร์ชวิชั่น และรองจากระบบนิเวศ PyTorch เป้าหมายของฉันคือการเน้นย้ำคุณลักษณะใหม่และอยู่ระหว่างการพัฒนา และให้ความกระจ่างเกี่ยวกับสิ่งที่เกิดขึ้นระหว่างการเปิดตัว แม้ว่ารูปแบบจะมีแนวโน้มที่จะเปลี่ยนแปลงไปตามกาลเวลา แต่ในตอนแรกฉันวางแผนที่จะรักษาขนาดที่เหมาะสมไว้และเสนอข้อมูลอ้างอิงสำหรับผู้ที่ต้องการเจาะลึกลงไปอีก สุดท้าย แทนที่จะเผยแพร่บทความในช่วงเวลาที่กำหนด ฉันจะโพสต์เมื่อมีหัวข้อที่น่าสนใจเพียงพอที่จะครอบคลุม
คำออกตัว: คุณลักษณะที่กล่าวถึงจะลำเอียงในหัวข้อที่ฉันสนใจเป็นการส่วนตัว ระบบนิเวศของ PyTorch นั้นใหญ่มาก และฉันมองเห็นได้เพียงส่วนเล็กๆ เท่านั้น การครอบคลุม (หรือไม่ครอบคลุม) คุณลักษณะไม่ได้กล่าวถึงความสำคัญของคุณลักษณะดังกล่าว ความคิดเห็นที่แสดงออกมาเป็นเพียงของฉันเอง
มาดูกันว่ามีอะไรทำอาหารบ้าง:
การปรับฉลากให้เรียบสำหรับการสูญเสีย CrossEntropy
คุณลักษณะที่ร้องขออย่างสูงใน PyTorch คือ รองรับเป้าอ่อน และ เพิ่มตัวเลือกการปรับฉลากให้เรียบ ในการสูญเสียครอสเอนโทรปี ทั้งสองคุณสมบัติมีเป้าหมายในการทำให้ Label Smoothing ง่ายขึ้น โดยตัวเลือกแรกให้ความยืดหยุ่นมากขึ้นเมื่อเทคนิค Data Augmentation เช่น ผสมผสาน/คัทมิกซ์ ถูกนำมาใช้และอย่างที่สองมีประสิทธิภาพมากกว่าสำหรับเคสธรรมดา ตัวเลือกเป้าหมายที่อ่อนนุ่มอยู่แล้ว ผสานกับมาสเตอร์ โดย Joel Schlosser ในขณะที่ตัวเลือก label_smoothing คือ การพัฒนา โดย Thomas J. Fan และขณะนี้อยู่ระหว่างการตรวจสอบ
ใหม่กำหนดการอุ่นเครื่อง
อัตราการเรียนรู้อุ่นเครื่องเป็นเทคนิคทั่วไปที่ใช้ในการฝึกโมเดล แต่จนถึงขณะนี้ PyTorch ไม่ได้เสนอวิธีแก้ปัญหาแบบมีขายทั่วไป เมื่อเร็วๆ นี้ อิลคาร์ รามาซันลี ได้ แนะนำ เครื่องมือจัดกำหนดการใหม่ที่สนับสนุนการอุ่นเครื่องแบบเชิงเส้นและแบบต่อเนื่อง อยู่ในระหว่างดำเนินการคืองานรอบ ๆ ปรับปรุงความสามารถลูกโซ่ และ การผสมผสาน ของตัวกำหนดตารางเวลาที่มีอยู่
TorchVision พร้อม “รวมแบตเตอรี่”
ครึ่งนี้เรากำลังดำเนินการเพื่อเพิ่มโมเดลยอดนิยมของ TorchVision, การสูญหาย, ตัวกำหนดเวลา, การเพิ่มข้อมูล และยูทิลิตี้อื่นๆ ที่ใช้เพื่อให้ได้ผลลัพธ์ที่ล้ำสมัย โครงการนี้มีชื่อว่า “แบตเตอรี่รวมอยู่ด้วย” และปัจจุบันคือ กำลังดำเนินการ.
เมื่อต้นสัปดาห์นี้ ฉันได้ เพิ่มเลเยอร์ใหม่ ที่เรียกว่า Stochasticความลึก ซึ่งสามารถใช้สุ่มดรอปกิ่งที่เหลือในสถาปัตยกรรมที่เหลือ ตอนนี้ฉันกำลังทำงานอยู่ เพิ่มการนำไปใช้ ของสถาปัตยกรรมเครือข่ายยอดนิยมที่เรียกว่า ประสิทธิภาพเน็ต. ในที่สุด Allen Goodman ก็ ในปัจจุบัน เพิ่มโอเปอเรเตอร์ใหม่ที่จะเปิดใช้งานการแปลง การแบ่งส่วนมาสก์ไปยังกล่องที่ถูกล้อมรอบ.
คุณสมบัติอื่น ๆ ในการพัฒนา
คิดว่าเราทำการปรับปรุงส่วนเพิ่มอย่างต่อเนื่องในเอกสารประกอบ โครงสร้างพื้นฐาน CI และคุณภาพโค้ดโดยรวม ด้านล่างฉันเน้นที่ "ส่วนต่อประสานกับผู้ใช้" บางส่วน รายการแผนงาน ซึ่งอยู่ในระหว่างการพัฒนา:
แค่นั้นแหละ! ฉันหวังว่าคุณจะพบว่ามันน่าสนใจ ความคิดใด ๆ เกี่ยวกับวิธีการปรับรูปแบบหรือหัวข้อที่จะครอบคลุมยินดีเป็นอย่างยิ่ง ตีฉันขึ้นบน LinkedIn or Twitter.
- เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
- เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
- ที่มา: https://blog.datumbox.com/new-blog-series-memoirs-of-a-torchvision-developer/
- a
- เกี่ยวกับเรา
- บรรลุ
- ปรับ
- แล้ว
- และ
- สถาปัตยกรรม
- รอบ
- บทความ
- สิงหาคม
- ผู้เขียน
- กำลัง
- ด้านล่าง
- ระหว่าง
- บล็อก
- สาขา
- ที่เรียกว่า
- กรณี
- เปลี่ยนแปลง
- ความชัดเจน
- รหัส
- ร่วมกัน
- คอมพิวเตอร์
- วิสัยทัศน์คอมพิวเตอร์
- คงที่
- ไม่หยุดหย่อน
- หน้าปก
- ปกคลุม
- ครอบคลุม
- ข้าม
- ขณะนี้
- ข้อมูล
- กล่องข้อมูล
- ลึก
- ผู้พัฒนา
- พัฒนาการ
- DIG
- สนทนา
- เอกสาร
- หล่น
- ระบบนิเวศ
- ทำให้สามารถ
- พอ
- ที่มีอยู่
- แสดง
- แฟน
- ลักษณะ
- คุณสมบัติ
- ในที่สุด
- ชื่อจริง
- การแก้ไข
- ความยืดหยุ่น
- รูป
- พบ
- ราคาเริ่มต้นที่
- คนดูแลบ้าน
- ครึ่ง
- เน้น
- อย่างสูง
- ตี
- ความหวัง
- สรุป ความน่าเชื่อถือของ Olymp Trade?
- ทำอย่างไร
- HTTPS
- ฉันเป็น
- ความคิด
- ความสำคัญ
- การปรับปรุง
- in
- โครงสร้างพื้นฐาน
- ในขั้นต้น
- แทน
- สนใจ
- น่าสนใจ
- IT
- เก็บ
- ฉลาก
- ห้องสมุด
- น่าจะ
- ปิด
- การสูญเสีย
- ทำ
- การทำ
- มาสก์
- มาก
- ความกว้างสูงสุด
- โมเดล
- ข้อมูลเพิ่มเติม
- ที่มีชื่อ
- เครือข่าย
- ใหม่
- เสนอ
- การเสนอ
- ผู้ประกอบการ
- ความคิดเห็น
- ตัวเลือกเสริม (Option)
- อื่นๆ
- ทั้งหมด
- ของตนเอง
- ส่วนหนึ่ง
- ส่วนตัว
- แผนการ
- เพลโต
- เพลโตดาต้าอินเทลลิเจนซ์
- เพลโตดาต้า
- ยอดนิยม
- โพสต์
- โพสต์
- ส่วนใหญ่
- ความคืบหน้า
- โครงการ
- ให้
- การประกาศ
- ไฟฉาย
- คุณภาพ
- คะแนน
- เมื่อเร็ว ๆ นี้
- การอ้างอิง
- สัมพันธ์
- ผลสอบ
- ทบทวน
- ที่สอง
- รอง
- ชุด
- ง่าย
- อ่อน
- ทางออก
- บาง
- ที่เริ่มต้น
- รัฐของศิลปะ
- อย่างเช่น
- ที่สนับสนุน
- เป้า
- เป้าหมาย
- เทคนิค
- พื้นที่
- ในสัปดาห์นี้
- เวลา
- ไปยัง
- หัวข้อ
- คบเพลิง
- ไปทาง
- การฝึกอบรม
- ภายใต้
- ที่กำลังมา
- ยูทิลิตี้
- ความชัดเจน
- วิสัยทัศน์
- ผู้สมัครที่รู้จักเรา
- สัปดาห์
- ยินดีต้อนรับ
- อะไร
- ที่
- ในขณะที่
- WHO
- จะ
- งาน
- การทำงาน
- คุณ
- ลมทะเล