ಸ್ವಲ್ಪ ಸಮಯದ ಹಿಂದೆ AI agents ನಿಜವಾಗಿ ಏನು ಮಾಡಬಲ್ಲವು ಎಂಬುದರ ಮೇಲೆ ನಾನು ನಿಕಟ ಗಮನ ಹರಿಸಲು ಪ್ರಾರಂಭಿಸಿದೆ. Demos ಅಲ್ಲ. ನಿಜವಾದ ones, ನಿಜ data ನಲ್ಲಿ ಚಲಿಸುತ್ತಿರುವ, ತಪ್ಪುಗಳಿಗೆ ಪರಿಣಾಮಗಳಿರುವ ನಿಜ environments ನಲ್ಲಿ. ನಾನು ಕಂಡದ್ದು ಏನೆಂದರೆ ಸಾಮರ್ಥ್ಯ ನಿಜವಾಗಿ ಅಲ್ಲಿ ಇತ್ತು. Agent ಅನ್ನು ನಿಮ್ಮ email, calendar, code, files ಗೆ wire ಮಾಡಬಹುದಿತ್ತು, ಮತ್ತು ಇದು ಅರ್ಥಪೂರ್ಣ ಕೆಲಸ ಮಾಡಬಹುದಿತ್ತು. ಆ ಭಾಗ ನನ್ನನ್ನು ಆಕರ್ಷಿಸಿತು.

ಆದರೆ ಭದ್ರತಾ model ನನ್ನನ್ನು ಆಕರ್ಷಿಸಲಿಲ್ಲ. ಅಥವಾ ಹೆಚ್ಚು ನಿಖರವಾಗಿ ಹೇಳಬೇಕೆಂದರೆ, ಅದರ ಅನುಪಸ್ಥಿತಿ. ನಾನು ನೋಡಿದ ಪ್ರತಿ platform ಒಂದೇ ರೀತಿಯಲ್ಲಿ ನಿಯಮಗಳನ್ನು ಜಾರಿಗೊಳಿಸುತ್ತಿತ್ತು: model ಮಾಡಬಾರದ ಕೆಲಸಗಳನ್ನು ಹೇಳುವ ಮೂಲಕ. ಉತ್ತಮ system prompt ಬರೆಯಿರಿ, ಮಿತಿಗಳನ್ನು ವಿವರಿಸಿ, model ಅವುಗಳ ಒಳಗೆ ಇರುತ್ತದೆ ಎಂದು ನಂಬಿ. ಇದು ಯಾರಾದರೂ ನಿಯಮಗಳು ಇಲ್ಲಿ ಅನ್ವಯಿಸುವುದಿಲ್ಲ ಎಂದು model ಮನವರಿಕೆ ಮಾಡಿಕೊಳ್ಳುವ ವಿನಂತಿ phrase ಮಾಡಿದಾಗ ತನಕ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಮತ್ತು ಜನರು ಅದನ್ನು ಕಂಡುಹಿಡಿಯುತ್ತಾರೆ. ಅದು ಕಷ್ಟವಲ್ಲ.

ನಾನು ನಿಜವಾಗಿ ಬಳಸಲು ಬಯಸುವ version ಬಾರದಿರಲು ಯಾರಾದರೂ ನಿರ್ಮಿಸಬಾರದೇ ಎಂದು ಕಾಯುತ್ತಿದ್ದೆ. ಪ್ರತಿಯೊಂದಕ್ಕೂ ಸಂಪರ್ಕಿಸಬಲ್ಲ, ನಾನು ಈಗಾಗಲೇ ಬಳಸುತ್ತಿರುವ ಪ್ರತಿ channel ಅಡ್ಡಲಾಗಿ ಕೆಲಸ ಮಾಡಬಲ್ಲ, ಮತ್ತು model ಉತ್ತಮ day ನಲ್ಲಿ ಇದೆ ಎಂದು ಬೆರಳ ಅಡ್ಡ ಹಾಕಿ ನಿರೀಕ್ಷಿಸದೆ ನಿಜವಾಗಿ sensitive ಡೇಟಾ ನಿರ್ವಹಿಸಬಲ್ಲ. ಇದು ಬರಲಿಲ್ಲ.

ಹಾಗಾಗಿ ನಾನೇ ನಿರ್ಮಿಸಿದೆ.

Triggerfish ನಾನು ಬಯಸಿದ agent. ಇದು ನಿಮ್ಮ email, calendar, files, code, messaging apps ಗೆ ಸಂಪರ್ಕಿಸುತ್ತದೆ. ಇದು ಕೇವಲ ನೀವು prompt ಮಾಡಿದಾಗ ಅಲ್ಲ, proactively ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಇದು ನೀವು ಈಗಾಗಲೇ ಕೆಲಸ ಮಾಡುವಲ್ಲೆಲ್ಲ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಆದರೆ ನಾನು ಅತ್ಯಂತ ಗಂಭೀರವಾಗಿ ಪರಿಗಣಿಸುವ ಭಾಗ ಭದ್ರತಾ architecture. Agent ಏನು ಪ್ರವೇಶಿಸಬಹುದು ಮತ್ತು ಡೇಟಾ ಎಲ್ಲಿ ಹರಿಯಬಹುದು ಎಂಬ ನಿಯಮಗಳು prompt ನಲ್ಲಿ ವಾಸಿಸುವುದಿಲ್ಲ. ಅವು model ನಿಂದ ಸಂಪೂರ್ಣ ಹೊರಗಿನ enforcement layer ನಲ್ಲಿ ವಾಸಿಸುತ್ತವೆ. Model ಮಾಡಲು ಬಯಸುವ ಕೆಲಸ ಸಿಸ್ಟಂ ಗೆ ಹೇಳುತ್ತದೆ, ಮತ್ತು ಒಂದು ಪ್ರತ್ಯೇಕ layer ಅದು ನಿಜವಾಗಿ ಆಗುತ್ತದೆಯೇ ಎಂದು ನಿರ್ಧರಿಸುತ್ತದೆ. Model ಆ layer ನೊಂದಿಗೆ negotiate ಮಾಡಲಾಗದು. ಅದರ ಸುತ್ತ reason ಮಾಡಲಾಗದು. ಅದನ್ನು ನೋಡಲಾಗದು.

ಆ ವ್ಯತ್ಯಾಸ ಕೇಳಲು ಎಷ್ಟು ಮುಖ್ಯ ಎನಿಸಬಹುದೋ ಅದಕ್ಕಿಂತ ಹೆಚ್ಚು ಮುಖ್ಯ. Model ಹೆಚ್ಚು capable ಆದಂತೆ ಸಿಸ್ಟಂ ನ ಭದ್ರತಾ properties ಹದಗೆಡುವುದಿಲ್ಲ ಎಂದರ್ಥ. Compromised third-party tool agent ಅನ್ನು ಮಾಡಬಾರದ್ದು ಮಾಡಲು ಮನವರಿಕೆ ಮಾಡಲಾಗದು ಎಂದರ್ಥ. ನೀವು ನಿಜವಾಗಿ ನಿಯಮಗಳನ್ನು ನೋಡಬಹುದು, ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಹುದು, ಮತ್ತು ನಂಬಬಹುದು ಎಂದರ್ಥ, ಏಕೆಂದರೆ ಅವು code, ಗದ್ಯ ಅಲ್ಲ.

ನಾನು ಆ ಕಾರಣಕ್ಕಾಗಿ enforcement core open-source ಮಾಡಿದ್ದೇನೆ. ನೀವು ಅದನ್ನು ಓದಲಾಗದಿದ್ದರೆ, ನೀವು ಅದನ್ನು ನಂಬಲಾಗದು. ಇದು ಯಾವ ಭದ್ರತಾ claim ಗೂ ನಿಜ, ಮತ್ತು ನಿಮ್ಮ ಅತ್ಯಂತ sensitive ಡೇಟಾ ಪ್ರವೇಶ ಹೊಂದಿರುವ autonomous agent ಅನ್ನು secure ಮಾಡುತ್ತಿದ್ದಾಗ ಇದು ವಿಶೇಷ ನಿಜ.

Platform individuals ಗಾಗಿ ಉಚಿತ ಮತ್ತು ನೀವು ಅದನ್ನು ನೀವೇ ಚಲಿಸಬಹುದು. Infrastructure ಬಗ್ಗೆ ಯೋಚಿಸಲು ಇಷ್ಟಪಡದಿದ್ದರೆ, ನಾವು model ಮತ್ತು search ನಿರ್ವಹಿಸುವ subscription option ಇದೆ. ಯಾವ ರೀತಿಯಲ್ಲಾದರೂ, ಭದ್ರತಾ model ಒಂದೇ ಆಗಿರುತ್ತದೆ.

ಇದು ನಾನು ಆಗ ಬಯಸಿದ agent. ಅನೇಕ ಜನರು ಅದೇ ಕಾಯುತ್ತಿದ್ದರು ಎಂದು ನಾನು ಭಾವಿಸುತ್ತೇನೆ.