AI中国网 https://www.cnaiplus.com
Technology Innovation Institute (TII)是全球领先的科学研究中心,也是阿布扎比的Advanced Technology Research Council (ATRC)开展应用研究的支柱。该研究所今天宣布,阿联酋的第一个大规模人工智能模型“Falcon 40B”现已开放源代码,供研究和商业使用,从而加强了其在人工智能领域日益增长的国际影响力。这一开创性的举措表明,阿布扎比致力于促进跨部门合作,推动生成性人工智能的进步。
Falcon是一个基础性的大型语言模型(LLM),拥有400亿个参数,在1万亿个标记上进行了训练,为研究人员和中小企业(SME)创新者提供了前所未有的机会。TII提供了对模型权重的访问权限,这些模型权重采用更全面的开源软件包形式,从而允许访问强大的LLM功能,提高透明度和问责制,并支持该领域的创新和研究。
在当前的人工智能生态系统中,开发者发现提供模型权重的LLM更具吸引力,因为与不提供模型权重的LLM相比,这些模型提供的微调能力更强。虽然大多数LLM只向非商业用户授予独家许可,但TII在向研究人员和商业用户提供Falcon 40B LLM方面迈出了关键一步。
在以开源模型形式发布Falcon 40B的同时,TII发起了提案征集活动,邀请热衷于发挥基础模型潜力的科学家、研究人员和有远见的人参加。我们鼓励他们贡献自己的创新想法,并利用该模型构建鼓舞人心的用例,或探索其应用的更多可能性,以涵盖工程、医疗保健、可持续发展、编码等领域。
作为对杰出研究提案的激励,被选中的项目将以投资的形式获得“训练计算能力”,使创新者能够利用强大的计算资源来实现加速数据分析、复杂建模和新发现。这种支持将培育和加速新想法的提出,提供必要的资源,将它们变成具有商业可行性和社会效益的有影响力的人工智能解决方案。
VentureOne是ATRC的商业化部门,将促进计算能力,使最具创新性的解决方案产品化。
Advanced Technology Research Council (ATRC)秘书长H.E.Faisal Al Bannai表示:“开放Falcon 40B的源代码是我们致力于促进人工智能创新的一个重要里程碑。我们正在颠覆LLM的使用,使研究人员和企业家能够提出最具创新性的用例。我们将通过VentureOne,加大计算能力的投资,进一步为这些提交方案提供支持,帮助推进打造一个繁荣的研究生态系统。”
Falcon于2023年3月首次亮相,展示了卓越的性能,并强调了阿联酋对技术进步的承诺。基于斯坦福大学的HELM LLM基准测试工具,Falcon 40B利用的训练计算能力明显减少,在这方面的表现优于同类知名模型。该工具只用了OpenAI GPT-3的训练计算的75%、DeepMind Chinchilla AI的40%、Google PaLM-62B的80%,证明了TII致力于推进生成式人工智能发展。
TII的CEO Ray O. Johnson博士表示:“计算能力在加快人工智能系统训练和加快用例实施方面发挥着关键作用。作为推动技术创新的新动力,提供这种支持的举措将改变现有格局,增强创新者的能力,使他们能够突破项目的界限,取得显著进步。”
Falcon 40B是由TII的AI and Digital Science Research Center (AIDRC)领导的一项突破成果。该团队还在去年推出了世界上最大的阿拉伯文NLP模型,即NOOR,并有望在不久后开发和宣布Falcon 180B。
TII人工智能跨学科中心部门主任Ebtesam Almazrouei博士表示:“发布Falcon 40B、 7.5B和1.3B参数人工智能模型的开源版本,以及我们高质量的REFINEDWEB数据集,体现了阿联酋对科学的重大贡献。每一次突破,我们都会挑战局限,重塑可能性领域,并为具有变革性影响的合作努力铺平道路。”
在联合国2023年前沿技术准备指数中, 阿联酋最近上升了五位,成为阿拉伯国家之首,在166个国家/地区中排在第37名。这个开源的生成性人工智能模型加之一系列进步的里程碑式技术成果,提升了阿联酋作为主流人工智能参与者的资格。
AI中国网 https://www.cnaiplus.com
本文网址: