בימי קדם גילו אנשים שעלים וגזעי עצים צפים על פני המים, אך העלים יכולים לשאת משקל קטן מאוד, ואילו גזעי העצים יכולים לשאת משקל רב. ככל שהגזע עבה יותר, כך הוא יכול לשאת משקל רב יותר. אנשים גם גילו שגזע עץ בצורת סהר אינו יציב במים: הוא מתגלגל, קשה לשבת עליו ביציבות, ואי אפשר לנוע כלל על גזע עץ גלילי.
לכן השתמשו אנשים בגרזיני אבן, באזמלי אבן, בפטישים ובכלים אחרים כדי לשטח את גזעי העצים העגולים. בהמשך גילו שהשימוש באש נוח יותר מעיבוד העץ בגרזן אבן. הם מרחו שכבה עבה של בוץ רטוב על החלקים בגזע שלא רצו לחצוב, ואז שרפו באש את החלקים שרצו להסיר.
כך נשרף החלק המיועד להסרה והפך לשכבת פחם, ולאחר מכן היה קל יותר לחתוך אותו בגרזן אבן. כך הצליחו להכין קאנו.
בשנת 1958 התגלו שלושה קאנו במחוז ווג'ין שבמחוז ג'יאנגסו, סין. על פי מחקר היסטורי, הם מתוארכים לתקופת האביב והסתיו ולתקופת המדינות הלוחמות. אורכם 11 מטרים, רוחבם 0.9 מטר ועומקם 0.4 מטר. כיום הם נמצאים במוזיאון הלאומי של סין.
כיום, בעולם, המונח "CANOE" משמש כמונח כולל לקיאק ולקאנו.
כיום חתירה בקאנו הפכה לפעילות מים נפוצה בקרב אנשים בעידן המודרני. קל ללמוד אותה, וגם חברים שיש להם רכב יכולים לקחת את הקאנו לטיולים. נוסף על כך, בשנים האחרונות זוגות חוזרים אל הטבע. חתירה בקאנו מתאימה לשיט באגמים, בעמקים או לאורך החוף. אפשר לעסוק בה כספורט או כפעילות פנאי, ליהנות מהנוף ואפילו לדוג. לכן אפשר לומר שהיא הציתה גל של פופולריות בקרב הדור הצעיר.
