ARM的设计是Acorn计算机公司（Acorn Computers Limited）于1983年开始的发展计划。后来，ARM成为微处理器行业的一家知名企业。

ARM公司最初成立于1981年，Acorn计算机公司于1983年开始的发展计划的团队由Roger Wilson和Steve Furber带领，最初与英国广播公司合作为英国教育界设计小型机，着手开发一种新架构，类似进阶的MOS Technology 6502处理器。当时采用的是美国的6502芯片。取得成功后，他们开始设计自己的芯片，受当时美国加州大学伯克利分校提出的RISC思想的影响，他们设计的芯片也采用RISC体系结构，并命名为“Acorn RISC Machine”。此后，第一款芯片ARM1在1985年被设计出来，次年又设计出真正实用的ARM2处理器，ARM2是具有32位数据总线和24位地址总线，并带有16个寄存器，可以说是当时最简化的32位微处理器，上面共有30000个晶体管（相较于Motorola六年后的68000其包含了70000个构使ARM2具有优异的低功耗特性，还能发挥比Intel 80286更好的效能, 而且能获得比普通单片机更复杂的效果。后继的处理器ARM3更备有4KB的快取，使它能发挥更佳的效能。）。

20世纪80年代末，苹果计算机开始与Acorn计算机公司合作开发新版的ARM核心，由于这个项目非常重要，所以Acorn计算机公司基于1990年的设计团队另组成一家名为Advanced RISC Machines Ltd.的新公司。这是苹果计算机、Acorn计算机公司和VLSI Technology的合资企业，此后Advanced RISC Machine公司成为ARM公司的注册商标，使得ARM有时候反而称为Advanced RISC Machine而不是Acorn RISC Machine，并专门从事ARM系列微处理器的开发。此后ARM公司设计了大量高性能、廉价、耗能低的RISC处理器、相关技术及软件。其技术具有性能高、成本低和功耗低等特点。适用于多种领域，如信息家电、消费电子、广告多媒体机和智能控制应用等。

Acorn曾推出世界首个商用单芯片RISC处理器，而苹果计算机当时希望将RISC技术应用于自身系统，ARM的微处理器新标准因此应运而生。ARM成功地研制了首个低成本RISC架构，迅速在市场上崭露头角。与此同时RISC结构的竞争对手都着眼于提高性能，发展高端工作站处理器的RISC结构。1991年ARM推出首个嵌入式RISC核心——ARM6™系列处理器后不久，VLSI率先获得授权，一年后夏普和GEC Plessey也成为授权用户。1993年德州仪器和Cirrus Logic也签署了授权协议，从此ARM的知识产权产品和授权用户都急剧扩大。1993年Nippon Investment and Finance (NIF)成为ARM股东后，ARM开始向全球拓展，分别在亚洲美国和欧洲设立了办事处。1998年4月ARM在伦敦证券交易所和纳斯达克交易所上市。

ARM现已发展成为一家全球性大公司。公司在英国布莱克本、剑桥和舍菲尔德，法国的Sophia Antipolis，以及美国加州Walnut Creek和德州奥斯丁设有研发中心，并在法国、德国、日本、韩国、中国台湾、以色列、英国和美国建立了销售、行政和技术支持办事处。ARM于2002年7月在中国上海成立分公司。