ניתן לאתר את מקורו של המיקרוסקופ למאה ה-16. למרות שמושג ההגדלה והעדשות היה ידוע במשך מאות שנים, בתקופה זו נעשו התקדמות משמעותית בפיתוח מכשירים אופטיים להגדלת עצמים קטנים.
הקרדיט על המצאת המיקרוסקופ המורכב, המשתמש במספר עדשות כדי להגדיל עצמים, ניתן לעתים קרובות למדען ההולנדי זכריה יאנסן. בסביבות שנת 1590, יאנסן ואביו הנס יאנסן, שהיו יצרני משקפיים, בנו מיקרוסקופ על ידי הצבת עדשות מרובות בצינור. המיקרוסקופ המוקדם הזה היווה פריצת דרך משמעותית שכן הוא איפשר הגדלה גבוהה יותר ובהירות משופרת בהשוואה למכשירי הגדלה קודמים.
למיקרוסקופ של הנס וזכריה יאנסן הייתה מגבלה בכך שהוא סבל מסטייה כרומטית, שבה צבעים שונים יתמקדו בנקודות שונות, וכתוצאה מכך תמונות מטושטשות. למגבלה זו התייחס מאוחר יותר מדען הולנדי אחר, אנטוני ואן לוונהוק. בסוף המאה ה-17 חידד לוונהוק את עיצוב המיקרוסקופ ופיתח עדשות חזקות משלו. הוא השיג הגדלה יוצאת דופן והיה הראשון שצפה ותיעד מיקרואורגניזמים, כמו חיידקים ופרוטוזואה, באמצעות המיקרוסקופים שלו.
המיקרוסקופים של לוונהוק היו מכשירים פשוטים ובעלי עדשה אחת הידועים כ"מיקרוסקופים פשוטים" או "מיקרוסקופים ליוונהוק". מיקרוסקופים אלו כללו כדור זכוכית זעיר ואיכותי המותקן על לוחית מתכת, כאשר הדגימה מונחת על קצה מחט. על ידי התאמה קפדנית של המרחק בין הדגימה לעדשה, Leeuwenhoek השיג הגדלות של עד פי 270.
הפיתוח והעידון של מיקרוסקופים נמשכו לאורך מאות שנים, עם תרומות של מדענים בולטים אחרים כמו רוברט הוק וארנסט אב. ספרו של הוק "Micrographia" שפורסם ב-1665 הציג את תצפיותיו באמצעות מיקרוסקופים והפזר את השימוש במיקרוסקופים במחקר מדעי.
כיום, מיקרוסקופים הפכו לכלי חיוני בתחומים שונים, כולל ביולוגיה, רפואה, מדעי החומרים וננוטכנולוגיה. הם התפתחו למכשירים מתקדמים ביותר המסוגלים להשיג רמות גבוהות להפליא של הגדלה ורזולוציה, המאפשרים למדענים לחקור את הפרטים המורכבים של העולם המיקרוסקופי.