日本では鎌倉時代にすでに登場しているが、元々は薬(漢方薬)を煮出すのに利用されていたため薬鑵(やっかん)と呼ばれていた。
鑵(くわん)とは、もともと水を汲む器という意味です。「やくくわん」から「やくわん」、「やかん」と変化したと思われる。漢字の「薬缶」は発音が「やかん」となってからの当て字である。
湯沸かしに使われた時代は明確なことは不明であるが、1603年『日葡辞書』に「今では湯を沸かす、ある種の深鍋の意で用いられている」とあり、中世末には既に湯を沸かす道具として用いられていたようである。また茶道でも用いられる鉄瓶(こちらは茶釜からの発展)のように鋳鉄でできた重い湯沸し用の道具もあった。
江戸時代の歌川広重「東海道五十三次」にもやかんが登場している。
また古くは縄文時代には、やかんに非常によく似た形状の「注口土器」が存在している。火にかけたかは定かでないが、注ぎ口があり、取っ手の変わりに吊るし紐を通す穴がある。