大数据局是由多个单位整合而来的。在2015年，国务院印发了《促进大数据发展行动纲要》，旨在推动大数据与实体经济深度融合，加快构建以数据为关键要素的数字经济体系。为了落实这一纲要，国家发展改革委、中央网信办、工业和信息化部、财政部等11个部门联合印发了《关于促进大数据发展行动纲要有关任务分工的通知》，明确了各部门的职责和任务分工。
这些单位包括：国家发展改革委负责统筹协调推进大数据发展工作；中央网信办负责统筹协调推进大数据发展工作；工业和信息化部负责统筹协调推进大数据发展工作；财政部负责统筹协调推进大数据发展工作；国务院其他有关部门按照职责分工负责大数据发展相关工作。
此外，国家发展改革委还牵头建立了由相关部门组成的国家大数据战略咨询委员会，负责研究提出大数据发展重大政策建议，指导和督促检查各地区、各有关部门贯彻落实大数据发展重大政策措施。
