Ông sinh tại Edinburgh, Scotland, sau đó chuyển đến Mĩ năm 1871 và bắt đầu dạy trường câm điếc. Tại đây, ông chế tạo một hệ thống "âm thanh khả kiến" (visible speech) để diễn tả trạng thái môi, lưỡi và cổ họng khi phát âm. Năm 1872, ông tự mở trường câm điếc, sau đó trở thành một phần của đại học Boston. Năm 1874, khi đang làm việc với một bức điện báo phức tạp, ông nảy sinh những ý tưởng cơ bản về chiếc máy điện thoại. Những thí nghiệm của ông với sự trợ giúp của Watson cuối cùng đã thành công vào năm 1876. Việc phát minh cũng khá bất ngờ: khi làm thí nghiệm, một hoá chất đổ vào cái máy và lan ra người ông, ông vội kêu lên "Ông Watson, giúp tôi, mau lên!". Người cộng sự, lúc đó đang ở một phòng khác, đã nghe thấy câu nói này qua cái máy để trên bàn. Câu nói trên trở thành câu nói đầu tiên con người nghe thấy bằng điện thoại. Ông còn có một may mắn khác: Elisha Gray (1835-1901) (người phát minh ra máy fax) đã không được công nhận là người phát minh ra điện thoại vì ông chậm hơn Bell chỉ vài giờ.
Những phát minh khác của Graham Bell bao gồm máy phát âm bằng ánh sáng (truyền âm bằng tia sáng), thính lực kế (audiometer, một thiết bị đo sức nghe) - một trong những thiết bị trợ giúp thính giác đầu tiên, induction balance (dùng để phát hiện kim loại trong cơ thể) và cải tiến máy hát đĩa (1886). Ông là một trong những người sáng lập Hội địa lí quốc gia (National Geographic Society), và cũng sáng lập tạp chí Khoa học (Science) năm 1883. Sau 1895, những thí nghiệm và phát minh của Bell đã chuyển sang lĩnh vực hàng không và hải quân.