ทฤษฎีสารสนเทศและมีดโกนอ็อกคัม

ทางลัด: ความแตกต่างความคล้ายคลึงกันค่าสัมประสิทธิ์การเปรียบเทียบ Jaccardการอ้างอิง

ความแตกต่างระหว่าง ทฤษฎีสารสนเทศและมีดโกนอ็อกคัม

ทฤษฎีสารสนเทศ vs. มีดโกนอ็อกคัม

ทฤษฎีสารสนเทศ (information theory) เป็นสาขาหนึ่งใน ทฤษฎีความน่าจะเป็น และคณิตศาสตร์เชิงสถิติ ขอบข่ายเนื้อหาของทฤษฎีนี้จะเกี่ยวข้องกับสารสนเทศ, เอนโทรปีของสารสนเทศ, ระบบการสื่อสาร, การส่งข้อมูล, ทฤษฎีอัตราการบิดเบือน, วิทยาการเข้ารหัสลับ, สัดส่วนสัญญาณต่อสัญญาณรบกวน, การบีบอัดข้อมูล, การแก้ความผิดพลาด และหัวข้ออื่น ๆ ที่เกี่ยวข้อง คำแปลที่ตามราชบัณฑิต คือ "ทฤษฎีสารสนเทศ" นี้ มาจากคำว่า "information theory" ซึ่งคำว่า information เป็นคำเดียวกันกับที่หมายถึง สารสนเทศ แต่เนื่องจากความหมายของ information theory นั้นจะเกี่ยวเนื่องกับ เนื้อความในแง่ของสัญญาณ จึงอาจจะใช้คำว่า ทฤษฎีข้อมูล แทนความหมายของสารสนเทศ ที่เป็นในแง่ของเนื้อหาข่าวสาร และ สื่อตัวกลาง หรือสื่อบันทึกในบางกรณี ตัวอย่างของการนำทฤษฎีสารสนเทศมาประยุกต์ใช้ ได้แก่ ZIP Files, เครื่องเล่นเอ็มพีสาม, อินเทอร์เน็ตความเร็วสูงดีเอสแอล, อุปกรณ์สื่อสารไร้สาย อาทิ โทรศัพท์มือถือ วิทยุสื่อสาร, เครื่องเล่นซีดี และการศึกษาเกี่ยวกับหลุมดำ เป็นต้น. หลักการของออคแคม (Ockham's Razor หรือ Occam's Razor) ถูกเสนอโดยวิลเลียมแห่งออคแคม เป็นหลักการหนึ่งในปรัชญาวิทยาศาสตร์ในการเลือกทฤษฎีที่เหมาะสมและตรงกับข้อมูลที่ได้จากการสังเกตหรือการทดลอง หลักการของออคแคมนี้ถูกนำไปตีความในหลายรูปแบบ โดยนักปรัชญาและนักวิทยาศาสตร์หลายท่าน อย่างไรก็ตาม อาจกล่าวถึงหลักการของออคแคมในรูปแบบที่ง่ายที่สุดได้ว่า: "เราไม่ควรสร้างข้อสมมุติฐานเพิ่มเติมโดยไม่จำเป็น" หรือ "ทฤษฎีไม่ควรซับซ้อนเกินความจำเป็น" นั่นคือในกรณีที่ทฤษฎี หรือคำอธิบายปรากฏการณ์ต่างๆ มากกว่าหนึ่งรูปแบบ สามารถอธิบาย และทำนาย สิ่งที่ได้จากการสังเกตทดลอง ได้เท่าเทียมกัน หรือไม่ต่างกันมาก เราควรจะเลือกทฤษฎีที่ง่ายที่สุด หรือซับซ้อนน้อยที่สุดนั่นเอง หลักการนี้ได้รับการสนับสนุนอย่างหนักแน่น จากนักวิทยาศาสตร์ชื่อดังหลายท่าน ไม่ว่าจะเป็นอัลเบิร์ต ไอน์สไตน์ หรือกาลิเลโอ กาลิเลอี ที่มองธรรมชาติเป็นสิ่งที่สวยงามดั่งศิลป.

สถิติศาสตร์

ติศาสตร์ (Statistic Science) เป็นการศึกษาการเก็บ การวิเคราะห์ การตีความ การนำเสนอและการจัดระเบียบข้อมูล ในการประยุกต์สถิติศาสตร์กับปัญหาทางวิทยาศาสตร์ อุตสาหกรรมหรือสังคม ฯลฯ จำเป็นต้องเริ่มด้วยประชากรหรือกระบวนการที่จะศึกษา ประชากรเป็นได้หลากหลาย เช่น "ทุกคนที่อาศัยอยู่ในประเทศหนึ่ง" หรือ "ทุกอะตอมซึ่งประกอบเป็นผลึก" สถิติศาสตร์ว่าด้วยทุกแง่มุมของข้อมูลซึ่งรวมการวางแผนการเก็บข้อมูลในแง่การออกแบบการสำรวจและการทดลอง ในกรณีไม่สามารถเก็บข้อมูลสำมะโนได้ นักสถิติศาสตร์เก็บข้อมูลโดยการพัฒนาการออกแบบการทดลองจำเพาะและตัวอย่างสำรวจ การชักตัวอย่างเพื่อเป็นตัวแทนประกันว่าการอนุมานและการสรุปสามารถขยายจากตัวอย่างไปยังประชากรโดยรวมได้โดยปลอดภัย การศึกษาทดลองเกี่ยวข้องกับการวัดระบบที่กำลังศึกษา จัดดำเนินการระบบ แล้ววัดเพิ่มโดยใช้วิธีดำเนินการเดียวกันเพื่อตัดสินว่าการจัดดำเนินการดัดแปรค่าของการวัดหรือไม่ ในทางกลับกัน การศึกษาสังเกตไม่เกี่ยวข้องกับการจัดดำเนินการทดลอง มีการใช้ระเบียบวิธีสถิติศาสตร์สองอย่างหลักในการวิเคราะห์ข้อมูล ได้แก่ สถิติศาสตร์พรรณนา ซึ่งสรุปข้อมูลจากตัวอย่างโดยใช้ดัชนีอย่างค่าเฉลี่ยหรือค่าเบี่ยงเบนมาตรฐาน และสถิติศาสตร์อนุมาน ซึ่งดึงข้อสรุปจากข้อมูลซึ่งมีการกระจายสุ่ม (เช่น ข้อผิดพลาดสังเกต การกระจายการชักตัวอย่าง) สถิติศาสตร์พรรณนาส่วนใหญ่ว่าด้วยชุดคุณสมบัติของการกระจายสองชุด ได้แก่ แนวโน้มสู่ส่วนกลางซึ่งมุ่งให้ลักษระค่ากลางหรือตรงแบบของการกระจาย ขณะที่การกระจายให้ลักษณะขอบเขตซึ่งสมาชิกของการกระจายอยู่ห่างจากส่วนกลางและสมาชิกอื่น การอนุมานสถิติศาสตร์คณิตศาสตร์กระทำภายใต้กรอบทฤษฎีความน่าจะเป็น ซึ่งว่าด้วยการวิเคราะห์ปรากฏการณ์สุ่ม ในการอนุมานปริมาณไม่ทราบค่า มีการประเมินค่าตัวประมาณค่าตั้งแต่หนึ่งตัวโดยใช้ตัวอย่าง 1.สถิติ (Statistics) 2.เซตและการให้เหตุผล (Set and reasoning) 3.

ทฤษฎีสารสนเทศและสถิติศาสตร์ · มีดโกนอ็อกคัมและสถิติศาสตร์ · ดูเพิ่มเติม »

ทฤษฎีความน่าจะเป็น

ทฤษฎีความน่าจะเป็น คือการศึกษาความน่าจะเป็นแบบคณิตศาสตร์ นักคณิตศาสตร์จะมองความน่าจะเป็นว่าเป็นตัวเลขระหว่างศูนย์กับหนึ่ง ที่กำหนดให้กับ "เหตุการณ์" (ความน่าจะเป็นที่เท่ากับ 0 ก็คือไม่มีโอกาสที่เหตุการณ์นั้นจะเกิดขึ้น แต่ถ้าความน่าจะเป็นเท่ากับ 1 แสดงว่าเหตุการณ์เหล่านั้นเกิดขึ้นได้อย่างแน่นอน) ที่เกิดขึ้นแบบสุ่ม ความน่าจะเป็น P(E) ถูกกำหนดให้กับเหตุการณ์ E ตามสัจพจน์ของความน่าจะเป็น ความน่าจะเป็นที่เหตุการณ์ E จะเกิดขึ้น เมื่อ กำหนด ให้อีกเหตุการณ์ F เกิดขึ้น เรียกว่าความน่าจะเป็นมีเงื่อนไข ของ E เมื่อให้ F โดยค่าความน่าจะเป็นคือ P(E \cap F)/P(F) (เมื่อ P(F) ไม่เป็นศูนย์) ถ้าความน่าจะเป็นมีเงื่อนไขของ E เมื่อให้ F มีค่าเช่นเดียวกับความน่าจะเป็น (แบบไม่มีเงื่อนไข) ของ E เราจะกล่าวว่าเหตุการณ์ E และ F เป็นเหตุการณ์ที่เป็นอิสระต่อกันเชิงสถิติ เราจะสังเกตได้ว่าความสัมพันธ์นี้เป็นความสัมพันธ์สมมาตร ทั้งนี้เนื่องจากการเป็นอิสระต่อกันนี้เขียนแทนได้เป็น P(E \cap F).

ทฤษฎีความน่าจะเป็นและทฤษฎีสารสนเทศ · ทฤษฎีความน่าจะเป็นและมีดโกนอ็อกคัม · ดูเพิ่มเติม »