สวัสดีครับผู้อ่านทุกๆท่าน

ยินดีต้อนรับทุกๆท่านเข้าสู่ Series เรียนรู้ AI บน Crypto อย่างเป็นทางการครับ ในปัจจุบันเราเริ่มเห็นการเพิ่มขึ้นของโปรเจค AI ใหม่ๆบนคริปโตมากขึ้นเรื่อยๆ จนอาจจะเริ่มจับต้นชนปลายไม่ถูกแล้ว ในบทความ Series นี้ ผมขออนุญาตนำเสนอโปรเจค AI ต่างๆที่ผมคิดว่ามีความน่าสนใจและควรค่าที่จะศึกษาไว้ครับ

สำหรับโปรเจคที่สอง เป็นโปรเจคที่มุ่งเป็น AI Coprocessor สำหรับ Blockchain นั่นคือโปรเจค Ritual ครับ

หมายเหตุ: บทความนี้ไม่ได้เป็นการชี้ชวนให้ล่า airdrop แต่อย่างใด

Introduction

Ritual มีจุดยืนชัดที่จะผสมผสานเทคนิคและหลักการที่ดีที่สุดจาก cryptography และ AI เข้าด้วยกัน เพื่อสร้างระบบที่ open และมีความ permissionless ในการสร้าง, แจกจ่าย และพัฒนา AI models ในปัจจุบันต้องยอมรับว่า AI มีบทบาทอย่างมากในการเข้ามาช่วยแก้ไขปัญหาต่างๆ แต่ก็ยังมีสิ่งที่ต้องแก้ไขอีกมาก เช่น

• SLAs (ข้อตกลงระดับการให้บริการ, Service Level Agreement) ที่ยังไม่แข็งแรงพอ: เนื่องจากในปัจจุบัน platform ต่างๆยังไม่มีการ guarantee ในเรื่องของ

  • ตัว model นั้น run อย่างถูกต้องแล้วหรือไม่

  • ความเป็นส่วนตัวของข้อมูลขาเข้าและขาออก models

  • censorship-resistance

• centralized APIs: ในปัจจุบัน เรายังต้องพึ่งบริษัทใหญ่เพียงไม่กี่เจ้า

• ค่าใช้จ่ายในการคำนวณสูงและการเข้าถึง hardware ที่จำกัด

• การเก็บ AI models แบบ closed-source: ซึ่งเป็นการ centralization อีกทั้งยังเป็นการยับยั้งการเกิด innovations ใหม่ๆ

โปรเจค Ritual จึงวางตัวเองเป็น execution layer สำหรับ AI ที่มีความ open, modular และ sovereign เพื่อที่จะแก้ไขปัญหาเหล่านี้ โดย users สามารถเข้าถึง models ต่างๆไม่ว่าจะเป็น LLM หรือ ML (Machine Learning) models บน network ได้ด้วย API ที่เรียบง่ายเพียงหนึ่งตัว โดยที่ตัว network ก็จะมี infrastructure ที่ช่วยให้รับประกันความสมบูรณ์ของการคำนวณ (computational integrity) และความเป็นส่วนตัว

ในปัจจุบัน Ritual มี products หลัก 2 ตัวได้แก่

• Infernet

• Ritual Coprocessor

เราจะมาอธิบายเพิ่มเติมกันในส่วนถัดไปครับ

ผู้เขียนสามารถทำความรู้จักกับ Ritual ในเบื้องต้นเพิ่มเติมได้ที่ 1, 2

Funding

ปัจจุบัน Ritual สามารถระดมทุน Series A ได้ถึง 25 ล้านดอลล่าร์สหรัฐ

Partnerships

ในปัจจุบัน Ritual มี partners ที่น่าสนใจ เช่น

• EigenLayer

• Celestia

• MyShell

• Allora - เราจะมาพูดถึงโปรเจคนี้กันในบทความถัดๆไป

Competitors

อ้างอิงบทความวิจัย ตัวอย่าง projects ในส่วนของ Coprocessor ที่สามารถให้ service AI แบบทั่วไปได้จะมี RiscZero และ Axiom โดย Coprocessor ในฝั่งของ Ritual นั้นจะถูกสร้างมาเพื่อโฟกัสการพัฒนา AI models โดยเฉพาะ

Overview

Ritual Coprocessor

เราจะมาเรียนรู้ส่วนประกอบต่างๆของ Ritual Coprocessor กันในเบื้องต้นด้านล่าง

1. Node Set: จะมี nodes หลักๆได้แก่ canonical full nodes และ validator nodes รวมถึง nodes ต่างๆที่ทำหน้าที่เฉพาะได้แก่ proof nodes, model caching nodes และ privacy nodes

2. Models: จะเป็น object หลักใน Ritual ซึ่งแต่ละ node จะสามารถคงตัว models ไว้ได้หรือถูก fetch มาจาก permissionless model registry โดยตัว model objects จะถูก consumed โดย SPCs

3. SPCs (Stateful Precompiles): คือ precompiles ที่มี state access เช่น

   1. Knowledge Distillation: สามารถถูก implemented ให้เป็นการทำ composition จาก SPCs อื่นๆ เช่นการ finetuning, การทำ inference

   2. Embeddings: สามารถใช้ประโยชน์จากการทำ parallelism

4. GMP (General Message Passing): เป็นเครื่องมือในการอนุญาตให้ applications บนเชนต่างๆเข้าถึง Ritual

5. Portals: เป็น feature เฉพาะสำหรับ Ritual ที่อนุญาตการทำ data evaluation ออนเชนผ่าน smart-contracts ก่อนที่จะเข้าถึง Ritual

6. Guardians: node มีอำนาจอย่างเต็มที่ในการที่จะควบคุมการเข้าและออกของ model ผ่าน Guardian

7. Modular Stateful Precompiles: SPCs บน Ritual นั้นถูกออกแบบมาให้เข้ากับ VMs อื่นๆได้ด้วย

8. Shared Sequencer: จะเป็นส่วนที่ทำให้เกิด transaction atomicity บน layers ต่างๆของ Ritual

9. DA Layer: Ritual ถูก design มาให้ users สามารถเลือก DA ที่ต้องการได้

10. Model Storage: Ritual เลือกใช้ storage ที่มีความ permissionless และ censorship-resistant ทำให้ nodes สามารถ on-load และ off-load ephemeral models ได้อย่างมีประสิทธิภาพ

11. Restaking: เป็นการทำ bootstrap security สำหรับ Ritual

12. Permanent Storage: จะเป็นที่สำหรับการบรรจุ general purpose artifacts และ metadata เพื่อที่ proof nodes, privacy nodes และ full nodes สามารถ reconstruct การคำนวนของ models ได้อย่างที่กำหนดไว้ (deterministically)

13. Routers: มี incentive เพื่อที่จะกำหนดเส้นทางที่ดีที่สุดสำหรับ AI requests เช่น การทำ completion, chatting, summarization, embeddings สำหรับ Web2 applications ไปยัง Ritual Nodes

Infernet

Infernet เป็น EVM-compatible framework สำหรับการทำ generalized computation โดยเฉพาะในส่วนของการทำ AI/ML computation แบบ on-chain โดยที่ฝั่ง users สามารถ integrate use cases ของ AI ต่างๆรวมถึง AI workflows ให้เข้ากับ workflow ในส่วนของ blockchain อีกทั้งฝั่ง users สามารถที่จะเสนอ ML models ให้ผู้อื่นรวมถึงการสร้าง protocols ต่างๆด้วย ML models

Infernet จึงเป็น product เริ่มแรกที่สำคัญสำหรับ Ritual Ecosystem

ในปัจจุบัน Infernet สามารถที่จะ

• host computation workloads ผ่าน Infernet-compatible Containers

• run โมเดล ML ผ่าน infernet-ml

• ถูกใช้งานผ่าน on-chain interface ผ่าน Infernet SDK

• ถูกใช้งานสำหรับการ process การคำนวนแบบ on-chain และ off-chain ผ่าน Infernet Node

• support payments แบบ on-chain

• อนุญาตให้ builder, smart contract developer รวมถึง node operator เข้าร่วมได้แบบไม่ถูกปิดกั้น

โดย Infernet จะให้บริการ 3 jobs หลักๆ ดังต่อไปนี้:

1. Off-chain Jobs = web2 request:
   jobs เหล่านี้จะถูก process แบบ off-chain โดยผลลัพธ์ที่ได้ก็จะถูกส่งแบบ off-chain เช่นกัน

2. On-chain Subscriptions = web3 request:
   users สามารถขอ request การคำนวนได้ผ่าน smart contract โดยที่การคำนวนจะถูก process แบบ off-chain และผลลัพธ์นั้นจะถูกส่งกลับไปยัง smart contract ผ่านการใช้ infernet-sdk

3. Delegated Subscriptions = web2 to web3 requests: ในส่วนนี้จะเป็นการขอ request การคำนวนผ่านทาง HTTP request และผลลัพธ์ที่ได้ก็จะถูกส่งไปยัง smart contract

ผู้อ่านสามารถอ่านรายละเอียดเพิ่มเติมๆเกี่ยวกับ Infernet ได้ที่ 1, 2 และเรียนรู้ตัวอย่าง applications ต่างๆบน Infernet ได้ที่ 3

ใน section ถัดไป เราจะมาโฟกัสกับสิ่งที่เราสามารถทำได้บน Ritual กัน

To-Dos

infernet-ml

ในบทความนี้ เราจะมาทดลองใช้งาน infernet-ml ในเบื้องต้นเพื่อเป็นการเฉลิมฉลองที่ Ritual เปิด open-source และเป็นการฝึกซ้อมประสบการณ์การใช้งาน ML ผ่าน on-chain กันครับ

โดย code ด้านล่างสามารถ run ผ่าน google colab ได้ทันทีครับ

• เริ่มต้นจากการ install ตัว infernet-ml ด้วยคำสั่ง pip

!pip install infernet-ml

• หลังจากนั้น เราจะมาทดลองใช้งาน infernet-ml ผ่าน HFInferenceClientWorkflow เพื่อทำ inference ผ่าน HuggingFace model กัน

• หมายเหตุ: HF ย่อมาจาก HuggingFace

• เพื่อนๆสามารถทำความรู้จัก HuggingFace เพิ่มเติมได้ที่นี่

# เป็นการ import package ต่างๆที่เกี่ยวข้อง
from infernet_ml.utils.hf_types import HFClassificationInferenceInput
from infernet_ml.workflows.inference.hf_inference_client_workflow import (
    HFInferenceClientWorkflow,
)

if __name__ == "__main__":

    # ในส่วนนี้จะเป็นการ setup ตัว model
    workflow = HFInferenceClientWorkflow(
        model="Kaludi/Reviews-Sentiment-Analysis",
    )
    workflow.setup()

    # ในส่วนนี้จะเป็นการ setup ค่า input
    input = HFClassificationInferenceInput(
        text="Decentralizing AI using crypto is awesome!"
    )

    # ในส่วนนี้จะเป็นการ output ค่าที่ได้จากการทำ inference ตัว input
    output_data = workflow.inference(input)
    print(output_data)

ซึ่ง output ที่ผมได้ก็จะตรงกับใน documentation เลยคือ

{'output': [TextClassificationOutputElement(label='POSITIVE', score=0.9997395873069763), TextClassificationOutputElement(label='NEGATIVE', score=0.00026040704688057303)]}

• เพื่อนๆสามารถทำความเข้าใจ workflow ของการทำ inference และ fine-tuning บน Infernet เพิ่มเติมได้ที่นี่ หากทีโอกาสเราจะมาเจาะลึกกันในบทความถัดไป

Run Node

ถึงแม้ว่าในปัจจุบันทาง Ritual จะยังอ้างว่าการ run nodes ไม่ incentivized แต่พอเห็นคำว่า “Run a node“ หน้าเว็ปไซต์แบบนี้ ก็อดคิดไม่ได้ว่าในอนาคตจะมีการพิจารณา incentivize หรือไม่หากมีโอกาส ผู้เขียนอาจกลับมาเขียนรายละเอียดเพิ่มเติมในส่วนนี้

ผู้อ่านสามารถอ่านวิธีการ run node ในเบื้องต้นได้ที่นี่

Discussion

ในขณะที่ผู้เขียนกำลังเขียนบทความนี้อยู่ ก็สะดุดกับคำอธิบายในส่วนของ Restaking ในเว็ปไซต์ที่เขียนไว้ว่า

To bootstrap Ritual Superchain security, there will be an ingress of staked security emanating from other chains (i.e. ETH L1 via Eigenlayer). Over time, we expect Ritual to bootstrap organic security within the ecosystem and rely less on external security

ซึ่งอาจแปลได้ว่าการใช้ EigenLayer สำหรับ security นั้นก็ยังไม่ถือว่าเป็น end-game เสียทีเดียว ซึ่งผู้เขียนก็อยากที่จะนำรายละเอียดในส่วนนี้มาแบ่งปันกันให้ฟังด้วยครับ

กลับมาที่ประเด็นหลักของตัวโปรเจคนี้กัน ผู้เขียนรู้สึกชอบ Ritual ในหลายๆด้าน เช่นประวัติของหลายๆท่านใน Core Team, feedback ดีๆที่ได้จากการอ่าน reseach papers, ตัว documentation ที่เขียนไว้ค่อนข้างละเอียดและชัดเจน ซึ่งผู้เขียนติดประเด็นหลักเพียงประเด็นเดียว ซึ่งเป็นประเด็นหลักสำหรับเหล่าโปรเจคสาย Decentralized AI นั่นคือคำถามที่ว่า

AI มีความจำเป็นที่จะต้อง run บน Blockchain จริงๆหรือไม่

ถึงแม้ว่าคำตอบของผู้เขียนและหลายๆท่านที่ผู้เขียนเห็นผ่าน X “ในปัจจุบัน” จะเป็นคำตอบสั้นๆว่า “ไม่“ “แต่ในอนาคต” ก็ไม่แน่ว่าเราจะได้เริ่มเห็นความสำคัญของการ run AI บน Blockchain มากขึ้นเรื่อยๆ

Conclusion

แต่อย่างไรก็ตาม ผู้เขียนเห็นว่า Core Team ของ Ritual หลายๆท่านมีประวัติเกี่ยวกับ AI ที่น่าสนใจ เช่นคุณ Micah Goldblum ที่กำลังทำ PostDoc กับ Yann LeCun รวมถึงการที่ทาง Ritual เอง ก็มีโอกาสได้ทำงานร่วมกับ advisors ระดับโลกอย่าง

• Illia Polosukhin
  Co-Founder ของ NEAR Protocol และผู้เขียนพึ่งทราบว่าเป็น Co-Creator ของ Transformers หมายเหตุ: Transformers ถือได้ว่าเป็น model พลิกวงการ Natural Languge Processing ซึ่งยังเป็น infrastructure ที่สำคัญสำหรับ Chat-GP”T” อีกด้วย

• Sreeram Kannan
  Founder ของ EigenLayer และเป็น Associate Professor ของภาควิชา Computer Science ที่ University of Washington

• Tarun Chitra
  Founder/CEO ของ Gauntlet และเป็น GP ที่ Robot Ventures.

จึงเป็นเหตุผลที่ผู้เขียนเลือก Ritual เป็นโปรเจคลำดับที่สองสำหรับ Series Study AI เพื่อให้เพื่อนๆลองไปศึกษากันต่อครับ

Acknowledgements

Thanks to my intern @0xpoomphrd for helping me writing this article.