Zuletzt aktualisiert am 1

1. 00:00 – 00:07 🗣 Wieland

   রেডিও ইউনিক উপস্থাপন করছে [পটভূমি সংগীত] দ্য ক্রাঞ্চ টাইম।

2. 00:10 – 00:12 🗣 Wieland

   জোনা ও ভিলান্ডের সঙ্গে।

3. 00:13 – 00:24 🗣 Wieland

   হ্যালো প্রিয় শ্রোতারা, বাইরে যারা আছেন, স্বাগতম ক্রাঞ্চ টাইমের চুরাশিতম পর্বে—আমাদের সাত বছরের জয়ন্তী। সাত বছর ধরে আপনাদের কাছে নিয়ে আসছি আমি, ভিলান্ড—

4. 00:24 – 00:25 🗣 Jona

   আর আমি, জোনা।

5. 00:25 – 00:44 🗣 Wieland

   প্রতি মাসের চতুর্থ রবিবার নিয়ে আসি টেক দুনিয়ার সবচেয়ে নতুন খবর, আর মাঝে মাঝে টিইউ ক্যাম্পাস থেকে এবং আমাদের নিজেদের প্রযুক্তি-কাণ্ড থেকে নানা কথা। আজও আমরা তোমাদের জন্য একটা সুন্দর ঘণ্টা তৈরি করেছি—ভরা, হ্যাঁ, বলতে পারি, সংবাদ আর টেক জগতের সেই সংবাদগুলোর ব্যাখ্যা-বিশ্লেষণ দিয়ে। জোনা, বলো তো।

6. 00:45 – 01:10 🗣 Jona

   আমাদের একবার চোখের সামনে আনা উচিত, গত সাত বছরে প্রযুক্তির দুনিয়ায় আসলে কতটা বদলেছে। জানো, আজই আমার এটা খেয়াল হলো। একটু ভাবো, প্রায় প্রতি সপ্তাহেই অন্তত একটা খবর বেরোয়—ঠিক আছে, আমেরিকার বড় কোম্পানি এক্সওয়াই-কে এই এআই-সহায়ক এক্সপ্লয়েট দিয়ে হ্যাক করা হয়েছে।

7. 01:10 – 01:10 🗣 Wieland

   হুম।

8. 01:10 – 03:45 🗣 Jona

   আর সেই ঘটনার পরিণতি তখন সত্যিই চরম ছিল। ওহ, তখন কাস্টমার ডেটা, পার্সোনাল ডেটা, গোপন কোডবেস—সবই থাকত, আর পরিসরটা আসলে ভীষণ বড় হতো। আর এখন এটা স্বাভাবিক হয়ে গেছে, প্রায় প্রতি সপ্তাহে একবার এমন বড় খবর আসে—যেমন, মেটাকে এইভাবে হ্যাক করা হয়েছে, আর তারা অবশ্যই খুব অল্প সময়ের মধ্যেই ঠিক করে ফেলেছে। আর আমরা এখন নির্দিষ্ট কোনো বিস্তারিত আলোচনায় যাওয়ার আগে, শুধু বলতে চাই, এর পিছনে ছোটা কত কঠিন হয়ে দাঁড়িয়েছে। মানে আমাদের জন্য না। শেষ বিচারে এটা আমাদের জন্য কমবেশি অপ্রাসঙ্গিক, শুধু আমরা ব্যক্তিগতভাবে জানতে আগ্রহী কীভাবে এটা ঘটল—কিন্তু এর সঙ্গে জড়িত পুরো প্রক্রিয়াগুলো গুরুত্বপূর্ণ। কোম্পানিগুলোকে এখন এত বেশি শক্তি ঢালতে হয় যাতে তারা সব সময় পিছনে ছুটতে পারে, কয়েক ঘণ্টার মধ্যে নির্দিষ্ট সিস্টেমের জন্য ফিক্স বের করতে পারে, কোনো আমলাতান্ত্রিক প্রক্রিয়ার কথা তো বাদই দিলাম। কারণ যদি জার্মান কোম্পানিতে এমন হতো, তাহলে অবশ্যই হতো: ওহ, ধাপ এক, তোমাকে আগে তোমার সিকিউরিটি প্রোটোকল খুঁজতে হবে, এই ক্ষেত্রে তোমার চেকলিস্ট কী। আর আদর্শভাবে তুমি এমনটা আগেই থাকবে, এভাবে বলি। তারপর অবশ্যই তোমার ডেটা প্রোটেকশন অফিসারকে জানাতে হবে। তাকে আবার ডেটা প্রোটেকশন অথরিটিকেও জানাতে হবে, আর তারা শেষে প্রথমে সরাসরি তথ্য পৌঁছে দেওয়ার কাজটা দেখে। অর্থাৎ তারাই ঠিক করে, সমস্যাটা কত গুরুতর, আর সন্দেহ হলে কর্মীদের সঙ্গে যোগাযোগও তারাই করবে—যদি যেমন পার্সোনাল ডেটার বিষয় হয়—এবং আমি জানি, কোম্পানি নিজে নয়। অথচ কোম্পানি হিসেবে তোমাকে সারাক্ষণ লড়তে হবে আর ভাবতে হবে: ঠিক আছে, এখন আমাকে... উহ, সমস্যাটা আসলে কোথায়? কোন সিস্টেমের কোন সংস্করণ আমরা হয়তো রোলব্যাক করতে পারি? আর অবশ্যই সব কী সরাসরি বদলাতে হবে—সব SSH-কী, অন্য যেকোনো লগ-অন কী, পাসওয়ার্ড, সবকিছুই সঙ্গে সঙ্গে বদলাতে হবে। আর এটা এখনকার সহজতার তুলনায় অনেক বেশি, যেখানে—পরের উদাহরণে যেমন আসছে—তিন হাজার মার্কিন ডলারেরও কম খরচে বড় বড় নামী কোম্পানিগুলোর একটা সিরিজ হ্যাক করা যায়।

9. 03:45 – 03:45 🗣 Wieland

   হুম।

10. 03:46 – 04:00 🗣 Jona

    আর সেটা অবশ্যই ক্লাউডে টোকেনে ঢালা টাকার মাধ্যমে। নিচের নিরাপত্তা সমস্যাটির প্রকাশ সরাসরি XKCD কমিক বা কমিক প্যানেল দিয়ে শুরু হয়েছিল।

11. 04:01 – 04:01 🗣 Wieland

    হ্যাঁ।

12. 04:01 – 06:37 🗣 Jona

    অর্থাৎ ইন্টারনেট আর বেশিরভাগ সফটওয়্যার আসলে নেব্রাস্কার কোনো এলোমেলো একজন ব্যক্তি একটু একটু করে জোড়া ধরে রেখেছে, যিনি ২০০৬ সালের দিকে কোনো এক এলোমেলো প্রকল্প শেষ করেছিলেন। আর সেই জিনিসই শেষে বৈধভাবেও দুর্বলতা হয়ে গেল। যাই হোক, যেমনই বলি না কেন, সিরিয়াস নামের এক নিরাপত্তা গবেষক OpenAI-তে একটু—না, তারা পরিষ্কার করেনি। শেষে তারা শুধু অভ্যন্তরীণ Git-এ একটা Pull Request প্রকাশ করে একটু মনোযোগ আকর্ষণ করেছিলেন। আসলে তারা OpenAI যেই ডিসকোর্স ফোরাম হোস্ট করে, সেটাই হ্যাক করেছিলেন। আর ফোরাম হওয়ায় এটাকে ছবিও প্রসেস করতে হয়। সেখানে একটা পুরনো C লাইব্রেরি আছে, LibHEIF—যেভাবেই উচ্চারণ করা হোক—এটা সাধারণ ছবি ও ভিডিও ফরম্যাটের জন্য, হয়তো চেনেন। আর সেখানে সহজেই একটা হিপ ওভারফ্লো উসকে দেওয়া যায়। অর্থাৎ তুমি ফোরামে একটা ম্যানিপুলেট করা ইমেজ ফাইল আপলোড করতে পারো। তার মানে তুমি কোডেককে বলছ দুটি ছবি একটার ওপর আরেকটা বসাতে, নানা ব্লেন্ড মোড ইত্যাদি দিয়ে—এটা নিশ্চয়ই কোনো ইমেজ এডিটরে দেখেছেন। আর তুমি একটা অফসেটও দিতে পারো, অর্থাৎ ওপরের ছবিটা বাঁয়ে, ডানে, ওপরে, নিচে কতটা সরে থাকবে। আর সেখানে অবশ্যই নেগেটিভ সংখ্যাও দিতে পারো, যাতে ধরো ওপরের ছবিটা বাঁদিকে ছবির সীমা থেকে বাইরে সরিয়ে দাও, যদি নেগেটিভ X-কোঅর্ডিনেট দাও। সিস্টেম এটা বৈধভাবেই গ্রহণ করে, কিন্তু পরবর্তী প্রসেসিংয়ে শেষে কোথাও একটা কাস্ট ঘটে, যেমনটা C থেকে জানো—সাইনড ইন্টিজার থেকে আনসাইনড ইন্টিজারে। তার মানে ছোট নেগেটিভ সংখ্যা, এখন হয়তো মাইনাস পঞ্চাশ, যতটা দিয়ে ছবি সরাতে চেয়েছিলে, সেটা হঠাৎ করেই পরিচিত ৪.২ বিলিয়ন হয়ে যায়, যদি শেষে সাইনড ইন্টিজার থেকে সেটা বানাও এবং লাইব্রেরি মেমোরির এমন জায়গায় লিখতে চায় যা আসলে তার নয়। অবশ্যই কিছু সিস্টেম এটা আটকায়, কিন্তু সেগুলোও বাইপাস করা গিয়েছিল, ফলে সত্যিই রিমোট কোড এক্সিকিউশন সম্ভব হয়েছিল।

13. 06:37 – 08:24 🗣 Jona

    আর OpenAI সার্ভারে এই রিমোট কোড এক্সিকিউশন দিয়ে তারা এরপর বলল: ‘এসো, এখন আমরা আগের মতোই Claude 4.8, Claude Opus 4.8—সঠিকভাবে বললে Claude Opus 4.8—ব্যবহার করি এবং লগইন সিস্টেমে আরেকটা বাগ খুঁজি।’ তারা সত্যিই অনেকক্ষণ খুঁজেছিল, কিন্তু আসলে কিছু পায়নি। আর কয়েক ঘণ্টা পর Claude Opus 5 বেরিয়ে এল, আর তাতেই কাজটা হয়ে গেল—আমার জানামতে দুই-তিন ঘণ্টার মধ্যে—যাতে OpenAI-র সিঙ্গেল সাইন-অনে আরেকটা দুর্বলতাও খুঁজে পাওয়া গেল। শেষে সেটা কয়েকটা—বরং বলি, অনেকগুলো অংশ ছিল, যেগুলো একটার পর একটা চেইন করে তুমি সম্পূর্ণ অ্যাক্সেস পেয়ে গেলে। কারণ OpenAI-র কর্মীদের ইমেইল অ্যাড্রেসও কম্প্রোমাইজড হয়ে গিয়েছিল, আর তার ফলে সবকিছুর অ্যাক্সেস পেয়ে যাও। সেখানে Slack, অভ্যন্তরীণ Git এবং তারা ব্যবহার করে এমন আরও সিস্টেম, কর্মীদের ডেটা—সবকিছুই ছিল। তারপর সেই নিরাপত্তা গবেষক/হ্যাকার, যাই বলি, বলল: ‘ঠিক আছে, এসো, আমি এখন শুধু একটা Pull Request করি। এই যে, দেখে নাও কী আছে’—এই ধরনের। কিন্তু এর জন্য সে আসলে মাত্র সাড়ে ছয় হাজার মার্কিন ডলার বাগ বাউন্টি পেয়েছিল, যা এমন কিছুর জন্য তুলনামূলকভাবে খুব কম। কারণটা হলো, তারা সেটা দিয়েছিল শুধু সিঙ্গেল সাইন-অন বাগের জন্য, যেহেতু কোম্পানি হিসেবে তুমি সব সময় এমন সফটওয়্যার প্রকল্পের জন্য বাগ বাউন্টি দিতে পারো না, যেগুলো তুমি কেবল ব্যবহার করো।

14. 08:24 – 08:24 🗣 Wieland

    হ্যাঁ।

15. 08:24 – 09:59 🗣 Jona

    এটা তো চলে না, কারণ তাহলে তুমি কোথায় পৌঁছাবে, যদি প্রতিটা কোম্পানি যেটা কোনো লাইব্রেরি ব্যবহার করে, তাকে নিরাপত্তা গবেষকের জন্য মোট কয়েক মিলিয়ন ডলার রেখে যেতে হয়। এটাও তো একরকম অর্থহীন। তাই এটা অবশ্যই out of scope ছিল। এটা এখন বড় খবরও ছিল। আমি শুধু তোমাদের জন্য এটা একটু গুছিয়ে বলতে চেয়েছিলাম। এটা প্রায়ই এমন জটিল চেইন বোঝার কাজে সাহায্য করে। ঠিক আছে, আর এটা এখন শুধু একটা উদাহরণ ছিল বর্তমান পরিস্থিতি বোঝানোর জন্য—বিশ্বে এই সবকিছু ম্যানেজ করা একটু কঠিন হবে। আর এখন প্রায়ই স্যান্ডবক্স এসকেপের কথাও পড়া যায়। এ নিয়ে আমরা Crunch Time-এও কথা বলেছি। কিন্তু সত্যি বলতে, বেশিরভাগ ক্ষেত্রেই এগুলো সামান্য প্রতিরোধ করা হয়। এখন যদি দেখেন, ঠিক আছে, Claude Opus 5.5 অতিরিক্ত নিরাপত্তা সীমাবদ্ধতা নিয়ে বেরিয়েছে। কিন্তু মূলত এর মানে শুধু স্যান্ডবক্স এসকেপ, মডেল কতটা দক্ষভাবে কাজ করতে পারে তা না। সেটা সম্পূর্ণ আলাদা। শেষে এটা তো যাই হোক ভালো আর খারাপের মধ্যে বিড়াল-ইঁদুরের খেলা। কারণ তোমাকে তো কৃত্রিম বুদ্ধিমত্তা দিয়ে নিরাপত্তা দুর্বলতা শনাক্ত করতে হবে, তুমি ভালো হলে বা খারাপ হলে। যদি তুমি কোম্পানির ভেতরে কাজ করো এবং বৈধভাবে নিরাপত্তা দুর্বলতা খোঁজো, আর বাইরের কেউ তোমার কাছে নিরাপত্তা দুর্বলতা খোঁজে। আর তোমরা দুই পক্ষ আলাদা আলাদা টুল ব্যবহার করতে পারো না।

16. 09:59 – 10:00 🗣 Wieland

    হ্যাঁ।

17. 10:00 – 10:31 🗣 Jona

    এটা কাজ করে না, কিন্তু হ্যাঁ, এটা অবশ্যই রোমাঞ্চকর হবে। আর এটা তো অবশ্যই শত শত উদাহরণের মধ্যে মাত্র একটা, শুধু এখানে দেখানোর জন্য। আর হ্যাঁ, দুই দিন আগেও একেবারে নতুন তথ্য বেরিয়েছে, কিন্তু সেগুলো নিয়ে হয়তো আমরা এখন একটু অপেক্ষা করব এবং দেখব, তথ্যের অবস্থা একটু শান্ত হলে এবং সত্যিই কিছু রিপোর্ট করতে পারলে। কিন্তু আমার মনে হয় না নিরাপত্তা দুর্বলতার এই ঢেউ থামবে।

18. 10:32 – 10:56 🗣 Wieland

    হ্যাঁ, জোনা, আমার কাছে গত মাসটা কিছুটা ছোট ছোট এআই মডেল বা এমন মডেল দিয়ে প্রভাবিত ছিল যেগুলো ফ্রন্টিয়ারে খুব বেশি শক্তিশালী নয়, বরং কিছুটা পিছিয়ে থাকা কিন্তু তবুও দারুণ। তাই প্রথম বিষয়টি, যেটি নিয়ে সবাই কথা বলছিল বলে মনে হয়েছিল,

19. 10:57 – 11:34 🗣 Wieland

    যেটা আমি প্রথমে ভেবেছিলাম, ওহ, এটি একটি নিশ বিষয় যেটি কাউকে আগ্রহ করবে না, কিন্তু তারপর হঠাৎ সবাই এটি নিয়ে কথা বলতে শুরু করল, সেটি হলো জেফ, তবে J-E-V বানানে লেখা, ট্রেফ পাংক্ট আটজন ডিই বিজ্ঞাপনের জেফ নয়। হ্যাঁ, তাই জেফ একটি এআই মডেল যা বের হয়েছে, যা মালিকানাধীন, কিন্তু এতে একটি আকর্ষণীয় কৌশল ব্যবহার করা হয়েছে, যার মাধ্যমে এই এআই মডেল টেক্সট আউটপুট দেয় না, বরং এটি কেবল আপনার দেওয়া অপশনগুলো থেকে বেছে নিতে পারে। আর এটিই এটিকে খুব দ্রুত এবং খুব সস্তা করে তোলে।

20. 11:34 – 11:34 🗣 Jona

    হ্যাঁ।

21. 11:34 – 12:13 🗣 Wieland

    যেহেতু সমস্ত সিদ্ধান্ত স্বাধীন হতে হবে, তবে সেগুলো প্রায় যত খুশি হতে পারে। আমি মনে করি প্রযুক্তিগতভাবে এটি ২৫৬টিতে সীমাবদ্ধ, কিন্তু অনেক সিদ্ধান্ত একসাথে নেওয়া যায়, আপনার ইনপুট, আপনার অবস্থা সম্পর্কে অনেক প্রশ্ন করা যায় এবং উত্তরগুলো সমান্তরালে তৈরি হয়। তাই এটি অত্যন্ত দ্রুত এবং অত্যন্ত সস্তা। আমরা অন্যান্য এআই মডেলের ক্ষেত্রে ইনপুট প্রতি মিলিয়ন টোকেনের জন্য দশ ডলার, আউটপুট প্রতি মিলিয়ন টোকেনের জন্য পঞ্চাশ ডলার বলি, এখানে আমরা ইনপুট প্রতি মিলিয়ন টোকেনের জন্য ৪.২ সেন্ট এবং আউটপুট টোকেনের জন্য

22. 12:13 – 12:14 🗣 Wieland

    বিনামূল্যে।

23. 12:14 – 12:14 🗣 Jona

    হ্যাঁ।

24. 12:14 – 12:19 🗣 Wieland

    কারণ সেগুলো মাপার জন্য অত্যন্ত ক্ষুদ্র।

25. 12:19 – 12:29 🗣 Jona

    এটি অবশ্যই অত্যন্ত দুর্দান্ত এবং শেষ পর্যন্ত এটি একটি বিশাল সীমাবদ্ধতা, কারণ এটি এমনভাবে ভাবা যায় যেন কেউ একটি কঠোর আউটপুট স্কিমা-

26. 12:29 – 12:30 🗣 Wieland

    হ্যাঁ।

27. 12:30 – 12:37 🗣 Jona

    -JSON স্কিমা হিসেবে দিয়েছে এবং শেষ পর্যন্ত এটি মেশিন লার্নিংয়ের একটি বড় শ্রেণীবিভাগের সমস্যা যেমনটি আমরা জানি।

28. 12:38 – 12:50 🗣 Wieland

    হ্যাঁ। এবং এটিও আমি আকর্ষণীয় মনে করেছি, কারণ প্রথমত, তারা কিছুটা সমস্যায় পড়েছে, কারণ তাদের প্রচার সামগ্রীতে তারা বলেছে: "ওহ, এই মডেল হ্যালুসিনেট করতে পারে না।" তাই।

29. 12:50 – 12:52 🗣 Wieland

    আচ্ছা। [হাসি]

30. 12:52 – 12:55 🗣 Wieland

    হ্যাঁ। তারা যা বোঝাতে চেয়েছিল তা হলো এটি স্কিমা থেকে বিচ্যুত হতে পারে না-

31. 12:56 – 12:56 🗣 Jona

    হ্যাঁ।

32. 12:56 – 13:12 🗣 Wieland

    -যা আপনি দেন। এবং আমি লক্ষ্য করেছি, অনেক লোক স্ট্রাকচার্ড আউটপুট সম্পর্কে জানেন না, কারণ অনেক ভাষ্যকার এটিকে বিপ্লবী বলে প্রশংসা করেছেন, যদিও এটি বহুদিন ধরে বিদ্যমান, এই-

33. 13:12 – 13:12 🗣 Jona

    হ্যাঁ।

34. 13:12 – 13:15 🗣 Wieland

    -একটি নির্দিষ্ট JSON স্কিমা আউটপুট হিসেবে বাধ্যতামূলক করা যায়।

35. 13:15 – 13:18 🗣 Jona

    এটি তো খুব পুরোনো মডেলেও সম্ভব-

36. 13:18 – 13:18 🗣 Wieland

    হ্যাঁ।

37. 13:18 – 13:26 🗣 Jona

    -যেগুলোকে এখন বলা হয়, আচ্ছা, এটি তো এখনও [হাসি] প্রস্তরযুগীয় প্রযুক্তি- ধরা যাক, সেখানেও এটি সম্ভব।

38. 13:26 – 13:30 🗣 Wieland

    হ্যাঁ। তবে এটি আমি খুব, খুব আকর্ষণীয় মনে করেছি।

39. 13:30 – 13:30 🗣 Jona

    হ্যাঁ।

40. 13:30 – 13:50 🗣 Wieland

    এবং এটি অত্যন্ত দুর্দান্ত, কারণ আমি মনে করি অনেক ব্যবহারের ক্ষেত্র আছে যেখানে কেবল এমন একটি সিদ্ধান্ত থাকে। এবং একজন প্রোগ্রামার হিসেবে এটিই সবচেয়ে বেশি এআই থেকে প্রত্যাশা করে। যে এটি কেবল একটি এআই-সমর্থিত if-স্টেটমেন্ট বা এআই-সমর্থিত switch-স্টেটমেন্ট।

41. 13:50 – 13:50 🗣 Jona

    হ্যাঁ।

42. 13:50 – 14:16 🗣 Wieland

    এবং এটি এত সস্তা এবং এত দ্রুত যে আপনি সত্যিই বড় ডেটা পরিমাণ প্রক্রিয়া করতে পারেন, এমনকি আপনার ওয়ার্কফ্লোতে তা বুঝতেও পারবেন না। এটি এত দ্রুত ছিল যে তারা মডেলটিকে পরীক্ষামূলকভাবে Doom খেলতে দিয়েছিল। কেবল কারণ এই ইনপুট এবং আউটপুট, তবে বলতে হবে, মডেলটি অবস্থা টেক্সট আকারে পেয়েছিল, কারণ এটি সত্যিই কেবল টেক্সট পড়তে পারে।

43. 14:16 – 14:16 🗣 Jona

    হুম।

44. 14:16 – 14:32 🗣 Wieland

    তাই এটি Doom দেখেনি, কিন্তু সর্বদা কেবল অবস্থা পেয়েছে এবং তারপর পঞ্চাশ মিলিসেকেন্ডের মধ্যে উত্তর পেয়েছে, প্রশ্নের মতো: এখন কি এই বোতাম চাপা উচিত? এখন কি এই বোতাম চাপা উচিত? এখন কি এই বোতাম চাপা উচিত? প্রশ্নগুলোর উত্তর সর্বদা দেওয়া হয়।

45. 14:33 – 14:33 🗣 Jona

    হ্যাঁ।

46. 14:33 – 15:32 🗣 Wieland

    এটি বেশ দুর্দান্ত। এবং অন্য বিষয় যা এই মাসে আমি অত্যন্ত আকর্ষণীয় মনে করেছি, যা তুলনামূলকভাবে রাডারের নিচে ছিল, তা হলো ডেজার্ট অ্যান্ট ল্যাবসের মডেল রিলিজ। এটি ইউরোপের একটি এআই কোম্পানি এবং তারা অনেক বিশেষায়িত ছোট মডেল তৈরি করেছে যা ফোনে চালানোর জন্য। এবং সেগুলো সর্বদা একটি নির্দিষ্ট কাজ করার জন্য প্রশিক্ষিত। আমি কেবল কয়েকটি উদাহরণ দিই। অথবা আমি পড়ে শোনাই কী কী আছে। এবং তাদের সর্বদা কিছু অদ্ভুত নাম থাকে। যেমন মডেল Align, যাকে আপনি একটি অডিও এবং সেই অডিওর বিদ্যমান ট্রান্সক্রিপ্ট দিতে পারেন এবং এটি শব্দের টাইমস্ট্যাম্প উন্নত করে এই-

47. 15:32 – 15:32 🗣 Jona

    হ্যাঁ।

48. 15:32 – 16:40 🗣 Wieland

    -এই ট্রান্সক্রিপ্টে। তারপর একটি মডেল আছে Clear, যা কেবল একটি অডিও শোরগোল দমনকারী জিনিস। তারপর Clips মডেল, যা টাইমস্ট্যাম্পসহ ট্রান্সক্রিপ্ট থেকে ক্লিপের জন্য দুর্দান্ত মুহূর্ত খুঁজে বের করতে পারে। তারপর একটি মডেল যা কেবল অডিওতে কোন ভাষা বলা হচ্ছে তা খুঁজে বের করার জন্য। যার নাম Ear। তারপর Emo, যা কেবল একটি টেক্সটের জন্য ইমোজি সাজেস্ট করে। তাই দেখুন, এগুলো অনেক ছোট ছোট মডেল। কিছু আবার ১.৫ মেগাবাইট আকারের। তারপর একটি মডেল যা পোস্টের ট্যাগ এবং বিষয় তৈরি করে। তারপর একটি মডেল যা টেক্সটে ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য খুঁজে বের করে এবং সেন্সর করে। এবং আরও একটি দুর্দান্ত যা আপনার আঙুল দিয়ে আঁকা রেখা থেকে একটি নিখুঁত আকার তৈরি করে। আপনি আপনার ডিভাইসে একটি রেখা আঁকুন- এবং সেই রেখার নিখুঁত SVG স্থানাঙ্ক ফেরত পান।

49. 16:40 – 16:40 🗣 Jona

    হুম।

50. 16:41 – 17:38 🗣 Wieland

    এমন সব মজার জিনিস। শিরোনাম তৈরি, কিছু-- এটি খুব দুর্দান্ত। এবং কিছু মডেল এখনও বিটায় বা জনসাধারণের জন্য উপলব্ধ নয়। সেগুলো আমি এখনও পরীক্ষা করতে পারিনি। যেমন Eye, যা ছবিকে নান্দনিকতা ও বিষয়বস্তু অনুযায়ী শ্রেণীবদ্ধ ও র‍্যাংক করে। তারপর Face, যা ব্যক্তি শনাক্ত করতে পারে, যেমন আপনার ফোনের গ্যালারিতে কে আছে তা অনুযায়ী ছবি ক্লাস্টার করতে। তারপর Moderator, যা ছবিতে নগ্নতা শনাক্ত করে। একটি মডেল Schemer, যা টেক্সট থেকে যেকোনো JSON বের করতে পারে। একটি মডেল যা ঘৃণা বক্তব্য শনাক্ত করে এবং একটি যা অডিও বা ভিডিওতে কে কখন কী বলেছে তা শনাক্ত করে। যা পডকাস্ট প্রক্রিয়াকরণের জন্য দুর্দান্ত হবে।

51. 17:38 – 17:48 🗣 Jona

    আমি তো ঠিক বলতে যাচ্ছিলাম, এই সমস্ত অডিও মডেলের মধ্যে- যেগুলো নিয়ে আপনি এইমাত্র কথা বললেন, আমি ভেবেছিলাম, এটি তো আসলে ঠিক সেটাই- যা আপনার পরিকল্পনা ছিল বা আপনি ইতিমধ্যে বাস্তবায়ন করেছেন।

52. 17:48 – 17:48 🗣 Wieland

    হ্যাঁ।

53. 17:48 – 17:53 🗣 Jona

    এবং এখন এটি একটি ছোট আকারের মডেলে পরীক্ষা করা- এটি তো দুর্দান্ত শোনাচ্ছে।

54. 17:54 – 17:54 🗣 Wieland

    সেই-

55. 17:54 – 17:56 🗣 Jona

    তাহলে এ ব্যাপারে কিছু পেয়েছ?

56. 17:56 – 18:15 🗣 Wieland

    এএ, শোনো জন, আসলে আরও একটা— আমি বলতে পারি, এএ, আমি অবশ্যই, তোমরা হয়তো আমাদের ইউটিউব চ্যানেলেও দেখেছ, এই পুরো বিষয়ে আমি এগোচ্ছি। এই মডেলগুলো দিয়ে নয়, তবে সেগুলোও আমি অন্তর্ভুক্ত করার চেষ্টা করব। কিন্তু খুব মজার একটা বিষয়—

57. 18:16 – 18:33 🗣 Wieland

    এটা ঘটেছে এই মডেলগুলো নিয়ে আমার কাজ করার সময়, আর আমি ধীরে ধীরে বলছি: ‘জোনা, আমার মনে হয় আমরা টিপিং পয়েন্টে পৌঁছে গেছি: আজকের মডেলগুলো আসলে এমন কিছু নেই যা পারে না।’ মানে এখন, সাধারণ মানুষ দৈনন্দিন যা করতে চায়।

58. 18:34 – 18:34 🗣 Jona

    হ্যাঁ।

59. 18:34 – 18:38 🗣 Wieland

    মানে স্পষ্টতই, এএ, আমরা এখন শুনছি যে, এএ, আরও বেশি করে

60. 18:39 – 18:43 🗣 Wieland

    শতাব্দীর পর শতাব্দী ধরে অমীমাংসিত গণিত সমস্যা সমাধান হচ্ছে।

61. 18:43 – 18:44 🗣 Jona

    ঠিক, হ্যাঁ।

62. 18:44 – 18:51 🗣 Wieland

    ওকে, মনে হয়। কিন্তু, এএ, তো ওপেনএআই-এর নতুন মডেল জিপিটি সিক্স অ্যাস্ট্রা বের হয়েছে।

63. 18:52 – 18:52 🗣 Jona

    হ্যাঁ।

64. 18:52 – 19:25 🗣 Wieland

    আর থিবো, আমাদের প্রভু ও ত্রাণকর্তা, [হাসি] একটা রিসেট দিয়েছেন, তাই আমি অবশ্যই একটু নিয়ে খেলতে পারলাম, আর আমি অবশ্যই সেসব জিনিস চেষ্টা করলাম যেগুলো, এএ, সবাই একসাথে চেষ্টা করেছে। উদাহরণস্বরূপ, কয়েক সপ্তাহ আগে আমরা যখন ব্যামবার্গে ক্যাম্পাস-মিডিয়াটাগেনে ছিলাম, এএ, তখন আমি আমাদের যুবহোস্টেলের রুমের একটা দ্রুত রুম-ট্যুর ভিডিও করলাম, আর এই রুম-ট্যুর ভিডিওটা অ্যাস্ট্রাকে দিলাম, ব্লেন্ডার খুললাম, ব্লেন্ডার এমসিপি ইনস্টল করলাম আর বললাম: ‘এই ঘরটা ৩ডি মডেল হিসেবে বানাও।’

65. 19:25 – 19:25 🗣 Jona

    হ্যাঁ।

66. 19:25 – 20:07 🗣 Wieland

    আর এটা তো বানিয়ে দিল। আর দেখতেও সত্যিই দারুণ লাগছিল, শেডারসহ সবকিছু সহ, আর আমার আশার চেয়ে অনেক বেশি দুর্দান্ত দেখাচ্ছিল। এটা অসাধারণ ছিল। আর তাই আমি ওকে এমন কোনো কাজ দিতে পারিনি, যেটা ও পারেনি। আর তারপর আমি এই সমস্যায় পড়লাম: আমি যখন—তো আমি অবশ্যই কোডেক্সকে বললাম: ‘এই, আমাকে একটা দ্রুত অ্যান্ড্রয়েড অ্যাপ লিখে দাও, যেটা দিয়ে আমি এইসব মডেল সহজে টেস্ট করতে পারব—আমার ফোনে।’ ও বানিয়েও দিল, কিন্তু আমি এটাও পড়লাম যে, এই মডেলগুলোর কয়েকটা ক্লোজড বেটায় নেই, তবে আপাতত, এগুলো সাধারণত সবসময় অ্যান্ড্রয়েড, আইওএস আর জাভাস্ক্রিপ্টের জন্য বেরিয়েছে। কিছু মডেল, বিশেষ করে অডিওর জিনিসগুলো—

67. 20:08 – 20:08 🗣 Jona

    হুম।

68. 20:08 – 20:14 🗣 Wieland

    —আপাতত শুধু অ্যাপল ইনটেলিজেন্সের জন্য। তাই, আর এটা অবশ্যই খারাপ ছিল, কারণ আমার আইফোন নেই।

69. 20:15 – 20:15 🗣 Jona

    হ্যাঁ।

70. 20:16 – 20:39 🗣 Wieland

    আর তারপর আমি একটু রিসার্চ করলাম, আর তা বলতে আমি আরেকটা চ্যাটজিপিটি ইনস্ট্যান্সকে জিজ্ঞেস করলাম: ‘এই, অ্যাপলের এই মডেলগুলো, এই .এম মডেল, এম মডেল সি ফাইল, যেগুলো নিউরাল ইঞ্জিনের জন্য’, বলছে, তাহলে, এগুলো কি মূলত সব তথ্য ধারণ করে, যাতে এগুলো অন্য কোথাও চালানো যায় বা কনভার্ট করা যায়?

71. 20:39 – 20:39 🗣 Jona

    হুম।

72. 20:39 – 20:51 🗣 Wieland

    আর তারপর চ্যাটি বলল: ‘হ্যাঁ, মূলত এগুলোতে সব তথ্য থাকা উচিত’ আর আমি এখন ইন্টারনেটেও পেয়েছি যে, কিছু লোক একসময় কনভার্টার লেখার চেষ্টা করেছে।

73. 20:51 – 20:51 🗣 Jona

    হুম।

74. 20:51 – 21:06 🗣 Wieland

    কিন্তু নিশ্চিতভাবে এমন কিছু রেডিমেড নেই, যেখানে এটা সহজে ঢোকানো-বের করা যায়। আর তারপর আমি সোজা কোডেক্সের কাছে গেলাম, জিপিটি-৬ অ্যাস্ট্রা খুব হাই করে দিলাম আর বললাম: ‘এই মডেলগুলোর কিছু শুধু অ্যাপলের জন্য আছে। এটা বদলে দাও।’

75. 21:06 – 21:07 🗣 Wieland

    [হাসি]

76. 21:08 – 21:08 🗣 Wieland

    আর ওটা করে দিল।

77. 21:09 – 21:09 🗣 Jona

    হ্যাঁ।

78. 21:09 – 21:28 🗣 Wieland

    ও একটা উপায় খুঁজে বের করল, আবিষ্কার করল, এই মডেলগুলোকে ONNX ফরম্যাটে কনভার্ট করার, আর এখন আমি মডেলগুলো আমার অ্যান্ড্রয়েড ফোনে চালিয়ে দেখতে পারলাম। আমি ভাবলাম: ‘তাহলে ধীরে ধীরে, সত্যিই এমন কিছু নেই যা এই মডেলগুলো পারে না।’

79. 21:28 – 21:28 🗣 Jona

    হ্যাঁ।

80. 21:29 – 21:53 🗣 Wieland

    তাই প্রতিটা, তাই— আর তারপর আমি, আমি অনেক কিছু করেছি, শুধু দেখার জন্য, দেখার জন্য, এমন কিছু আছে কি না যা মডেলগুলো পারে না, বিশেষ করে এখন গেম বানানো আর ৩ডি জিনিসে। তাই আমি, আমি এ নিয়ে অনেক টেস্ট করেছি, শুধু দেখতে, আচ্ছা, কোনো এক সময় তো এটার ব্যর্থ হওয়া উচিত। আমার কম্পিউটারে থাকা একটা ইমোজির র্যান্ডম ছবি, আমি সেটা টেনে এনেছি, বলেছি: ‘এই ইমোজিটা ৩ডি মডেল হিসেবে বানাও।’

81. 21:54 – 21:54 🗣 Jona

    হ্যাঁ।

82. 21:54 – 22:07 🗣 Wieland

    ‘কিন্তু অনুগ্রহ করে ঠিক ওই টেক্সচার আর শেডিং দিয়ে, যেমনটা ছবিতে দেখা যাচ্ছে।’ ও সেটাও বানিয়ে দিল। আমি ভাবতাম তার চেয়ে অনেক বেশি জটিলও। তারপর আমার কাছে ছিল এমন একটা, এমন একটা, অ্যাসেটপ্যাক থেকে, একটা সিটি গেমের মতো টেমপ্লেট—

83. 22:08 – 22:08 🗣 Jona

    হুম।

84. 22:08 – 22:25 🗣 Wieland

    —যেখানে সবকিছু এত স্ট্যাটিক ছিল। তখন আমি ভাবলাম: ‘এই, এই যে সিটির অ্যাসেট।’ আমি গডট খুললাম আর বললাম: ‘এটাতে প্রাণ দাও। গাড়িগুলো সত্যিই চলবে আর রাস্তার নিয়ম মানবে আর সব, আর টার্ন নেবে, আর প্লেনগুলো উড়বে আর, আর সব...’ আর ও বলল: ‘হ্যাঁ, ঠিক আছে, করে দিয়েছি।’ আর করে-ই দিল।

85. 22:25 – 22:25 🗣 Wieland

    [হাসি]

86. 22:25 – 22:28 🗣 Wieland

    মানে এটা সত্যিই অবিশ্বাস্য।

87. 22:28 – 22:28 🗣 Jona

    হ্যাঁ।

88. 22:28 – 22:36 🗣 Wieland

    একমাত্র জিনিস যা তোমাকে আসলে— মানে একমাত্র জিনিস যা একজনকে সত্যিই সীমাবদ্ধ করে, তা হলো, [হাসি] তোমার একশ ইউরোর না দুইশ ইউরোর সাবস্ক্রিপশন আছে কি না।

89. 22:36 – 22:36 🗣 Wieland

    [হাসি]

90. 22:36 – 22:46 🗣 Wieland

    আর একশ ইউরোর সাবস্ক্রিপশনওয়ালা মানুষ হিসেবে পরিসংখ্যানগতভাবে আমি সেই সাধারণ লোক, যার একশ ইউরোর সাবস্ক্রিপশনের চারগুণ ব্যবহারের জন্য দুইশ ইউরোর সাবস্ক্রিপশন নেই।

91. 22:46 – 22:47 🗣 Jona

    হুম।

92. 22:47 – 23:06 🗣 Wieland

    কিন্তু তাই এটা আমার কাছে সত্যিই দুর্দান্ত লাগে আর আমি নিজের মধ্যে একটু টের পাই, মানে সেখানে আমি একধরনের ডিসিশন ফ্যাটিগ টের পাই। আসলে ডিসিশন ফ্যাটিগ তখন বলা হয় যখন মানুষকে, ধরা যাক, কিছু নির্দিষ্ট করে দেওয়া হয় না, বরং তাদের অনেক অনেক অপশন দেওয়া হয়, তখন তাদের আর কোনো বাছাই করতেই ইচ্ছা করে না।

93. 23:06 – 23:06 🗣 Jona

    হ্যাঁ।

94. 23:06 – 23:30 🗣 Wieland

    কখনও কখনও মানুষকে অল্প অপশন বা একেবারে অপশন না দেওয়াই ভালো। কারণ অনেক সময় বেশি অপশন দিলে তারা সিদ্ধান্ত নিতে চায় না। ইয়োনা, আমি নিজের মধ্যে এমন কিছু টের পাচ্ছি। মানে আমি বুঝি, যেহেতু এআই দিয়ে সব করা যায়, আমি কোনওভাবে এআই দিয়ে কিছু করতে চাই না। এটাই ব্যাপার, আমি এটা টের পাচ্ছি।

95. 23:30 – 23:36 🗣 Jona

    আর প্রতিবারের মতো এই ক্রাঞ্চ টাইমেও শেষে আমরা দার্শনিক প্রশ্নে পৌঁছে যাই। ঠিক।

96. 23:36 – 23:46 🗣 Wieland

    হ্যাঁ, আর বিশেষ করে ব্যাপারটা একটু এমনও, মানে আমি, আমি ঈর্ষা করি বা আমি, মানে আমি সেই মানুষদের জন্য খুশি, যারা সত্যিই এআইয়ের সাহায্যে ব্যবসা গড়ছে।

97. 23:46 – 23:46 🗣 Jona

    হুম।

98. 23:46 – 24:08 🗣 Wieland

    কারণ আমি তোমাকে, আমি তোমাদের একটু আভাস দিতে পারি। সম্ভবত আমি আর এক বন্ধু পেছনে কিছু নিয়ে কাজ করছি, কিন্তু সত্যিই আমি ভাবি, মানে, আমি বেশিরভাগই এটা করি কারণ এতে আমার আনন্দ, কিন্তু আমি আর কোনোকিছুর বাজার দেখছি না। তাই ভাবি, আমরা যা করি, আমাদের, আমাদের, আমাদের কোনো তথাকথিত ফ্যাশন নেই।

99. 24:08 – 24:09 🗣 Jona

    হ্যাঁ।

100. 24:09 – 24:19 🗣 Wieland

     তাই বলতে গেলে, আমরা যা করছি তা করতে পারি, আর যেই না কেউ ভাববে: ‘আরে, আমারও ইচ্ছা, ঠিক একই জিনিস করব, শুধু দুই শতাংশ ভালো করে।’

101. 24:19 – 24:19 🗣 Jona

     হ্যাঁ।

102. 24:19 – 24:25 🗣 Wieland

     তাহলে তত্ত্বগতভাবে সে এক বিকেলেই এটা করে ফেলবে, কারণ আজকাল এআই এজেন্টরা সবই করতে পারে।

103. 24:26 – 24:42 🗣 Wieland

     তাই সেখানে যেন, মানে এটা, এটা, হ্যাঁ, আমি, আমি বলতে গেলে কৌতূহলী, ফ্যাশনটা কোথায় থাকবে। মানে আমি একটু ভয় পাই বা ভাবি, ফ্যাশনটা এখনও মানুষ, মানুষের সৃজনশীলতা আর মানুষের রুচিই হবে।

104. 24:42 – 24:42 🗣 Jona

     হ্যাঁ।

105. 24:43 – 24:54 🗣 Wieland

     বুঝছ? কারণ আমি ভাবি, মানে তত্ত্বগতভাবে আজকাল যে কেউ খুব অল্প সময়ে যেকোনো ভিডিও গেম বানাতে পারে। প্রশ্ন শুধু: আইডিয়াটা ভালো কি না?

106. 24:55 – 24:56 🗣 Jona

     হ্যাঁ। [দীর্ঘশ্বাস]

107. 24:56 – 25:01 🗣 Wieland

     তাই মূলত আমি, আমি, আমি চাইলে, যদি মজা পেতাম, ত্রিশটা নিজের ওয়াচ ডগস গেম বানাতে পারতাম।

108. 25:02 – 25:02 🗣 Jona

     হ্যাঁ।

109. 25:02 – 25:12 🗣 Wieland

     প্রশ্ন হলো: এগুলো কি আসলগুলোর চেয়ে ভালো? [হাসি] হয় যদি আমার দারুণ আইডিয়া থাকে আর এআইকে বলি সেই দারুণ আইডিয়াগুলো ঢোকাতে, আর না হলে, তাহলে না।

110. 25:13 – 25:15 🗣 Jona

     এখন আমি এর উত্তর কী দেব? [হাসি]

111. 25:15 – 25:21 🗣 Wieland

     আচ্ছা, জানি না। তুমি, তুমি, তুমি কী ভাবো? তুমি কী ভাবো, এটা কীভাবে এগোবে? মানে আমি ভাবিনি এটা এত দ্রুত ঘটবে। আর-

112. 25:21 – 25:21 🗣 Jona

     হ্যাঁ।

113. 25:22 – 26:26 🗣 Wieland

     আর আমি বলি, তুমি নিশ্চয়ই শুনেছ, ইদানীং এই পুরো For Real AI Doom Talk নিয়ে বেশ আলোচনা শুরু হয়েছিল। বিশেষ করে নিউরালেসিস আর এই সবকিছু নিয়ে। মানে সেখানে, সেখানে অনেক ফেক নিউজ ছিল, আর শুরুতে আমি একটু খুশিই হয়েছিলাম যে আমি এখানে ক্রাঞ্চ টাইমে বসে তোমাকে বলব: ‘হ্যাঁ, ইয়োনা, জানো, এই পেপার AI 2027-এ একটা গুরুত্বপূর্ণ টিপিং পয়েন্ট আছে, যেখানে, উম, সব এআই কোম্পানি একসময় বলবে, এআইগুলো আর বাধ্য থাকবে না ইংরেজিতে বলতে যে তারা কী ভাবছে, বরং তারা বিশুদ্ধ ভেক্টরে ভাবতে পারবে, যার ফলে তারা অনেক ভালো ভাবতে পারবে, কিন্তু আমরা আর নিয়ন্ত্রণ করতে পারব না তারা কী ভাবছে।’ আর এটাই এই কাল্পনিক গল্পে একটি প্রধান কারণ, কেন মানুষ এআইয়ের নিয়ন্ত্রণ হারায়। আর আসলে আমি এখন এখানে বসে বলতে চেয়েছিলাম: ‘হ্যাঁ, জানো, তারপর OpenAI ভেবেছিল: “ফর্প, আমি জানি আজ আমরা কী করব।”’ [হাসি] কিন্তু ব্যাপারটা তেমন হয়নি।

114. 26:27 – 26:27 🗣 Jona

     হ্যাঁ।

115. 26:27 – 26:28 🗣 Wieland

     কিন্তু এটা তো বেশ

116. 26:29 – 26:37 🗣 Wieland

     তীব্র, মানে আমি মনে করি, এই ত্বরণটা সত্যিই খুব টের পাওয়া যায়। আমি ভাবিনি এটা এত দ্রুত এত তীব্র হবে।

117. 26:37 – 27:10 🗣 Jona

     আর শুরুতে আমাদের কাছে শুধু এমন, এমন সাধারণ ব্যাপার ছিল যেমন: ওহ, তখন তো এখনও GPT থ্রি নিয়ে চলছিল। তুমি, তুমি হয়তো আমাদের প্রথম আলোচনাটা এখনও মনে রেখেছ, যেখানে আমরা বলেছিলাম, যেখানে তুমি আমাকে ব্যাখ্যা করেছিলে: ‘হ্যাঁ, তুমি তখন আসলে এমন একটা ফাংশন পাবে, যেটা একরকমভাবে তোমাকে স্বাভাবিক ভাষার টেক্সট দিতে পারবে।’ হ্যাঁ, lol। [হাসি] এটা কোথায় গিয়ে দাঁড়াল। আমি মনে করি, এটা নিয়ে ভাবতে আমার আরেকটা Business Month দরকার। [হাসি] এতটাই ঘন।

118. 27:10 – 27:30 🗣 Jona

     না, উম, উফ, এটা তো নীতিগতভাবে ডেভেলপারদের জন্যও ব্যাপারটা অত্যন্ত কঠিন করে তোলে, কারণ শেষ পর্যন্ত তোমাকে ক্রমশ কম আর কম নিয়ন্ত্রণ বা সংশোধন করতে হয়। ফলে শেষে আসলে কোডটা—আমি বলতে চাই না যে মূল্যহীন—কিন্তু কোডটা, উম, আসলে প্রোগ্রামিং-ই মূল্যহীন হয়ে পড়ে।

119. 27:31 – 27:31 🗣 Wieland

     হ্যাঁ।

120. 27:31 – 27:59 🗣 Jona

     কারণ কম্পিউটারকে যা খুশি শেখানোটা খুবই সহজলভ্য হয়ে গেছে, আর সেটা ইতিমধ্যেই এত চরম পর্যায়ে পৌঁছেছে, যেভাবে মানুষ—তাও আবার নিরীহ সরল মানুষ—দশ বছর আগেও ভাবত, যেমন আমি বলি কম্পিউটারকে কিছু, আর তাকে এখন ঠিক সেটাই করতে হবে। যে আমরা সত্যিই এখন সেই পর্যায়ে আছি যে, অনুবাদক—মানে এই ক্ষেত্রে ডেভেলপার—কেই একেবারে বাদ দিয়ে দেওয়া হয়েছে—

121. 27:59 – 28:00 🗣 Wieland

     হ্যাঁ।

122. 28:00 – 28:01 🗣 Jona

     এই প্রক্রিয়া থেকে।

123. 28:01 – 28:17 🗣 Wieland

     আর আমার কাছে সবচেয়ে আকর্ষণীয় লাগে, উম, যদি ভাবো—আমার মনে হয়, আগে মানুষ সবসময় এমন ভাবত—আচ্ছা ঠিক আছে, মানুষ তখন এইসব স্টার ট্রেকের দৃশ্য কল্পনা করত, যেখানে তারা তাদের জাহাজে কমবেশি এমন এক অতি-বুদ্ধিমান কম্পিউটারই রাখে।

124. 28:17 – 28:17 🗣 Jona

     হ্যাঁ।

125. 28:18 – 28:21 🗣 Wieland

     উম, যাকে তত্ত্বগতভাবে শুধু ভাষা দিয়েই সবকিছু বলা যায়।

126. 28:22 – 28:22 🗣 Jona

     হ্যাঁ।

127. 28:22 – 28:28 🗣 Wieland

     আর এখন পর্যন্ত মানুষের ধারণাটা ছিল এরকম: আচ্ছা, ব্যাপারটা আসলে পুরোপুরি তেমন নয়, কারণ আজকের দিনে আমাদের তো ডেটা সেন্টারই দরকার পড়ে।

128. 28:28 – 28:28 🗣 Jona

     হ্যাঁ।

129. 28:28 – 28:30 🗣 Wieland

     তাই না, তুমি তো এমন একটা ডেটা সেন্টার নিজের সঙ্গে বয়ে বেড়াতে পারো না।

130. 28:30 – 28:31 🗣 Jona

     হ্যাঁ।

131. 28:31 – 29:03 🗣 Wieland

     কিন্তু আমি বলতে চাইছি, ব্যাপারটা ক্রমশ সেই দিকেই এগোচ্ছে যে, ধরা যাক, নির্দিষ্ট কিছু বিশেষায়িত হার্ডওয়্যারে ভরা একটা সার্ভার র্যাক দিয়েই তুমি সেটা নিশ্চিতভাবে করতে পারবে। এখন যদি আমরা আপাতত মহাকাশযান থেকে একটু সরে যাই, তাহলে বিষয়টা শেষ; আমরা একটু পৃথিবীতেই থাকি এবং উদাহরণ হিসেবে বিমানবাহী রণতরী বা এয়ারক্রাফট ক্যারিয়ারের মতো কিছুর কথা বলি। ওটাও তো আসলে একরকম বড় মহাকাশযানের মতোই, শুধু মহাকাশে নয়, বরং সমুদ্রে, সাগরে অবস্থান করে। তাই, এটা সম্পূর্ণভাবে কল্পনাযোগ্য যে তোমার একটা বিমানবাহী রণতরী থাকতে পারে, এবং সেটাই স্বাভাবিক।

132. 29:03 – 29:04 🗣 Jona

     হ্যাঁ।

133. 29:04 – 29:17 🗣 Wieland

     আর তার কোথাও একটা সার্ভার রুম থাকে, যেখানে এমন বিশেষায়িত হার্ডওয়্যারের একটা র্যাক পড়ে থাকে, আর কার্যত ওটাই সেই একমাত্র কম্পিউটার, যেটা সেখানে আর আছে। আর মানুষ সারাক্ষণ শুধু ওটার সঙ্গেই কথা বলে।

134. 29:18 – 29:18 🗣 Jona

     হ্যাঁ।

135. 29:18 – 29:29 🗣 Wieland

     একটা অর্থে এটাই মানুষ আসলে সবসময় কম্পিউটারের কাছ থেকে চেয়ে এসেছে, শুধু এতদিন সেটা করতে পারেনি। আমার মনে হয়, এটাই ছিল এমন একটা জিনিস, যা—

136. 29:29 – 30:03 🗣 Jona

     কিন্তু এটা সবসময়ই তো এসব গল্পের মূল বক্তব্য, উম, এটাও বোঝানোর জন্য যে এটা আসলে কতটা বিপজ্জনক হতে পারে। তাই আমি ঠিক জানি না, এটাকে চাওয়ার সঙ্গে এভাবে শ্রেণীবদ্ধ করা আদৌ যায় কি না। আর তাছাড়া এটা সবসময় একটু এমনও, আমি বলতে চাই না প্লট পয়েন্টের মতো, কিন্তু লোরের অংশও বটে, যেমন তুমি কীভাবে, উম, কীভাবে তখন ঐ বিশাল পরিমাণ শক্তি পাবে, যাতে তোমার পুরো প্রযুক্তি সেখানে চালাতে পারো। আমার মনে হয়, এই পরিসরে এটাও ভাবা যেত, যে সেখানে সত্যিই কোথাও একটা সার্ভার র্যাক রাখা থাকবে।

137. 30:03 – 30:03 🗣 Wieland

     হ্যাঁ।

138. 30:04 – 30:12 🗣 Jona

     আর সেটাকে, আমি বলব, লেখক নিজের ইচ্ছেমতো যে শক্তির উৎস বানিয়ে ফেলেছেন, তা দিয়েই চালানো যাবে।

139. 30:12 – 30:30 🗣 Wieland

     না, আমি আসলে এখন বলতে চাইছি যে, আমি দাবি করতেই পারি, অতীতে সমাজকে, আমি বলব, প্রায়ই এমন কিছু প্রতিশ্রুতি দেওয়া হয়েছে, যেটা আজ কম্পিউটারের সঙ্গে মিথস্ক্রিয়ার ক্ষেত্রে ধীরে ধীরে বাস্তব হয়ে উঠছে। যেমন, শুধু যদি আমরা সিরির কথাই ধরি—

140. 30:30 – 30:30 🗣 Jona

     হ্যাঁ।

141. 30:31 – 30:50 🗣 Wieland

     বা শুধু, আমি বলব, এমনকি কমান্ড লাইনও কমবেশি একটা বার্তা ছিল: ‘এই যে দেখো, তুমি তো পারো, মানে না, তুমি কম্পিউটারের সঙ্গে ইন্টারঅ্যাক্ট করছ, কিন্তু তোমাকে একটা নির্দিষ্ট মোডালিটি ব্যবহার করতে হবে। তোমাকে তার ভাষা বলতে হবে।’ আর আমরা ক্রমশ সেই দিকে এগোচ্ছি যেখানে কম্পিউটারের সঙ্গে শুধু কথা বলেই কাজ চালানো যাবে।

142. 30:51 – 31:06 🗣 Jona

     ঠিক। আর মনিটর, ডেস্কটপ আর তার সঙ্গে আসা সব ডেস্কটপ-রূপকের ক্ষেত্রেও শেষে ঠিক একই ব্যাপার ছিল: ওহ, এখন তোমার কাছে কম্পিউটারের সঙ্গে ইন্টারঅ্যাক্ট করার অনেক বেশি স্বাভাবিক ও সহজ উপায় আছে, যেমনটা তুমি এতক্ষণ চেয়ে আসছিলে। শুধু এটা নয়: আহ, আচ্ছা, এখন তোমাকে—

143. 31:07 – 31:23 🗣 Jona

     তোমাকে তো প্রথমে সব কমান্ড মুখস্থ করতে হবে, তারপর সেগুলো ঠিকঠাক ক্রম অনুযায়ী চালাতে হবে, যাতে তুমি ঠিক এই-অমুক কাজটা করতে পারো। আর শেষ পর্যন্ত দেখা যায়, অনেক অনেক মানুষই আবার এই ছোট ধাপটাও চেয়ে বসেছিল, কারণ এটা এখনো বিরক্তিকরই থেকে যায়, আর ঠিক সেজন্যই নতুন নতুন উদ্ভাবন আসে।

144. 31:23 – 31:29 🗣 Wieland

     তাই। আমি বলতে চাই, আমি মনে করি, এই মুহূর্তে অ্যাক্সিলারেশনটা খুবই প্রচণ্ড আর-

145. 31:29 – 31:40 🗣 Jona

     আর এটাও, যে এমন মডেল আছে, যেগুলো, উম, এন্ড ডিভাইসে অর্থপূর্ণ আউটপুট দিতে পারে। এটাও নিশ্চয়ই সবচেয়ে বড় গেম চেঞ্জারগুলোর একটা।

146. 31:40 – 31:47 🗣 Wieland

     হ্যাঁ, কিন্তু আমি যেটা এত ভালো মনে করি, তা হলো, আমার মতো একজন প্রোগ্রামারের জন্য এই মাসটা আসলে সত্যিই একটা স্বপ্নের মতো ছিল।

147. 31:48 – 31:48 🗣 Jona

     হ্যাঁ।

148. 31:48 – 32:17 🗣 Wieland

     কারণ আমি ভাবি, আমি এটা ভালোই মনে করি, আমাকে সঙ্গে পুরো একটা ভাষা মডেল বয়ে বেড়াতে না হওয়া, যেটা প্রায় অনেক কিছু বা সব কিছু করতে পারে। কিন্তু আমি যদি আসলে বলি, আমি আসলে শুধু এমন একটা ভাষা মডেল চাই, যেটা ঘৃণামূলক বক্তব্য শনাক্ত করতে পারে, কারণ আসলে এটাই আমার বিষয়। আর এখন ব্যবহারকারী চার দশমিক পাঁচ গিগাবাইটের ভাষা মডেল নিজের ফোনে ডাউনলোড করে সেটা চালাবে, শুধু এই একটা নির্দিষ্ট কাজ করার জন্য—এটা অর্থহীন।

149. 32:17 – 32:17 🗣 Jona

     হ্যাঁ।

150. 32:17 – 33:03 🗣 Wieland

     তাই, এজন্যই এটা দুর্দান্ত। আর জেফের সঙ্গেও, যেমন বললাম, আমি, আমি উৎসাহী, উহ, আর কী কী সম্ভব। আমারও কিছু নিজের পরিকল্পনা আছে, এটা দিয়ে কী করা যায়। কিন্তু এটা কতটা জোরালো, তার একটা উদাহরণ হলো, উম, এআইগুলো তাদের কাজ পূরণ করতে সত্যিই সবকিছু ঢেলে দেয়: আমি ChatGPT-কে ভুলে ওয়ার্ক মোডে, ওয়েবসাইটে, কোডেক্সে নয়, ওয়েবসাইটে কিন্তু ওয়ার্ক মোডে জিজ্ঞেস করেছিলাম: “হেই ChatGPT, মাইনক্রাফটে ট্রায়াল স্পনারের ব্যাপারে, আমি কি ডেটাপ্যাকে বা এরকম কিছু করে সেগুলো ট্রিগার করতে পারি, যদিও তারা কোনো খেলোয়াড়কে দেখতে পায় না?”

151. 33:04 – 33:04 🗣 Jona

     হুম।

152. 33:04 – 33:13 🗣 Wieland

     উম, আর আমি ভেবেছিলাম, হ্যাঁ, চ্যাটি এখন ইন্টারনেটে গিয়ে রেডিটে খুঁজবে আর মাইনক্রাফট উইকির পেজগুলো পড়বে।

153. 33:13 – 33:14 🗣 Jona

     [হাসে] হ্যাঁ।

154. 33:14 – 33:17 🗣 Wieland

     জানো, আমার প্রশ্নের উত্তর দিতে সে কী করেছিল?

155. 33:17 – 33:18 🗣 Jona

     না।

156. 33:18 – 33:32 🗣 Wieland

     সে মাইনক্রাফট ডাউনলোড করেছিল, ডেভেলপমেন্ট ভার্সন, যেটা আর অবফাসকেটেড নয়, আর কোডে দেখেছিল ট্রায়াল স্পনার কীভাবে কাজ করে। কারণ উইকি, উইকি তো ভুল থাকতে পারে।

157. 33:33 – 33:34 🗣 Wieland

     হ্যাঁ, LOL। [হাসে]

158. 33:34 – 33:39 🗣 Wieland

     তারপর সে বলে: “হ্যাঁ, হ্যাঁ, আমি এখন দেখে নিয়েছি। এটা এমনই। নিশ্চিতভাবে।”

159. 33:39 – 33:42 🗣 Jona

     আর নিশ্চিতভাবে মানে আক্ষরিক অর্থেই, হ্যাঁ, কোডে ঠিক এভাবেই আছে।

160. 33:42 – 33:43 🗣 Wieland

     হ্যাঁ, ঠিক।

161. 33:43 – 33:43 🗣 Jona

     মজা করুন, হ্যাঁ।

162. 33:44 – 33:46 🗣 Wieland

     তাই, এটা, এটা সত্যিই পাগলাটে।

163. 33:46 – 33:46 🗣 Jona

     হ্যাঁ।

164. 33:46 – 33:55 🗣 Wieland

     সত্যিই, আমরা সবাই এআইকে পুরোপুরি কাজে লাগাই না। এখন তো আমি নিজেও না। এমনকি আমিও এখন যে সম্ভাবনা আছে, তা ঠিকভাবে কাজে লাগাচ্ছি না।

165. 33:55 – 33:55 🗣 Jona

     হ্যাঁ।

166. 33:55 – 34:34 🗣 Wieland

     হ্যাঁ, তবে আমি বলতে গেলে মনে করি, অ্যাক্সিলারেশন এখন অনেক বেশি টের পাওয়া যাচ্ছে। শুধু এটাই দেখুন, কতগুলো আর কত দ্রুতগতিতে নতুন এআই মডেল বের হচ্ছে। মানে, আগে সাধারণত মেজর মডেলগুলোর মধ্যে তিন-চার মাস থাকত, আর এখন মনে হয়, মানে, এখন আমি এমন ইউটিউবার চিনি, যারা প্রতিদিন একটা ভিডিও করে এআই মডেল নিয়ে নতুন নতুন অগ্রগতি সারসংক্ষেপ করে। অবশ্যই এতে অনেক গুজবও থাকে, কিন্তু শেষ বিচারে প্রতি সপ্তাহে দুই থেকে তিনটা নতুন এআই মডেল, ফ্রন্টিয়ার এআই মডেল বের হচ্ছে।

167. 34:34 – 34:34 🗣 Jona

     হুম।

168. 34:34 – 34:41 🗣 Wieland

     আর যেমন বললাম, আমার মনে হয়, আমরা যেন সিঙ্গুলারিটির খুব কাছাকাছি চলে এসেছি, আর আমি সত্যিই জানতে উৎসাহী যে এটা আর কোথায় গিয়ে পৌঁছাবে।

169. 34:42 – 35:42 🗣 Jona

     আমার কাছে এখনো দুটো ছোট্ট নজরদারি-বিষয় আছে, যেগুলো শেষে আবার আগের ক্রাঞ্চ-টাইম বিষয়গুলোর সঙ্গে যুক্ত হবে। একটা হলো Waymo রোবো ট্যাক্সি, যেগুলো এখন সত্যিই শুরু করেছে—আমি বলি, অপরাধমূলক কনটেন্ট বা জিনিসপত্র, যেগুলো তাদের রোবো ট্যাক্সির ভেতরে ঘটে, সেগুলো এখন পুলিশের কাছে রিপোর্টও করছে। আমেরিকায় ইতোমধ্যে দুজন কিশোরকে গ্রেপ্তার করা হয়েছে, যারা ভেতরে বন্দুক নিয়ে নাড়াচাড়া করছিল। আর এতে স্বাভাবিকভাবেই আবার সেই বিতর্কটা একটু জেগে উঠেছে: আচ্ছা, এখন ঠিক কী নজরদারি করা হচ্ছে আর কীভাবে প্রসেস করা হচ্ছে? এ নিয়ে আমরা আগে সেলফ-ড্রাইভিং টেসলার প্রসঙ্গেও কথা বলেছি—তাদের ক্যামেরা, শুধু ভেতরের ক্যামেরা নয়, বাইরের ক্যামেরাগুলোও মূলত কী কী রেকর্ড করতে পারে এবং কী

170. 35:43 – 36:38 🗣 Jona

     সবকিছু তাতে থাকে। কয়েক মাস আগে Meta Smart Glasses নিয়েও সমস্যা হয়েছিল, যেখানে আমি বলি, তুলনামূলকভাবে ফিল্টার ছাড়াই Meta-র কর্মীদের কাছে চলে যাচ্ছিল, আর তখন সংশ্লিষ্ট ক্রেতার স্পষ্ট কনটেন্ট ও ব্যক্তিগত মুহূর্তও দেখা যেত। কিন্তু এটা কয়েক মাস আগের কথা, হয়তো ছয় মাসও হয়ে গেছে। আর ঠিক এই Smart Glasses বিষয়ে আমরা আগেও বলেছি—আমি বলি, Watch Dogs-এর মতো ব্যক্তিনির্দেশনা, যাকে আমি এখন এই নামেই ডাকি। এমন কিছু এখন Facebook-এও আছে, মানে Meta, যাই বলি না কেন। আর সেখানে—আমি বলি—একটা বিতর্কও ছিল, যেখানে পোস্টের অ্যানোটেটেড ডেটা ছিল, যেখানে সংশ্লিষ্ট ব্যক্তির ব্যক্তিগত ডেটাও প্রকাশ-

171. 36:38 – 36:54 🗣 Jona

     প্রকাশ করা হয়েছিল। Meta AI-এর পক্ষ থেকে নির্দিষ্টভাবে এমন প্রশ্ন এসেছিল: 'ওহ, ডান দিকের এই শিশুটিকে চেনেন?' আপনি নিশ্চয়ই দেখেছেন, সেই পোস্ট বা রিপোর্ট, যেখানে আপনি

172. 36:55 – 37:19 🗣 Jona

     যেখানে আপনি অ্যাকর্ডিয়ন খুলতে পারতেন আর সেখানে মায়ের বৈধ ব্যক্তিগত তথ্য—আমার মনে হয় তার এবং তার সন্তানের—তাতে লেখা থাকত, মানে পুরোনো ও বর্তমান ঠিকানা এবং নাম, সন্তানের পুরো নাম, প্রথম ও শেষ নাম ইত্যাদি। এজন্য Meta একটু বashing-ও খেয়েছে।

173. 37:19 – 37:22 🗣 Wieland

     কিন্তু তুমি কি আমাকে আবার বলতে পারো?

174. 37:22 – 37:22 🗣 Jona

     হুম।

175. 37:22 – 37:24 🗣 Wieland

     আমি জানি না আমি ঠিক মনে করতে পারছি কি না।

176. 37:25 – 37:25 🗣 Jona

     হ্যাঁ।

177. 37:25 – 37:37 🗣 Wieland

     আমার মনে হয়, ব্যাপারটা ছিল যে... মানে, ওই ঘটনা আসলে উল্টোটা ফাঁস করেছিল—যে এই সব তথ্য কমবেশি আগে থেকেই অ্যাক্সেসযোগ্য ছিল।

178. 37:37 – 37:37 🗣 Jona

     ঠিক।

179. 37:37 – 37:38 🗣 Wieland

     যদি আমি ঠিক বুঝেছি—

180. 37:38 – 37:39 🗣 Jona

     একদম।

181. 37:39 – 37:49 🗣 Wieland

     —উঁহু, এটা কাজ করেছিল শুধু এই কারণে যে Meta AI পরিবারের অন্য পোস্টগুলোতে থাকা জিনিসগুলো ব্যবহার করতে পেরেছিল।

182. 37:49 – 38:06 🗣 Jona

     ঠিক। এবং স্বাভাবিকভাবেই সেগুলোতে তার অ্যাক্সেস ছিল আর সেগুলো বিশ্লেষণ করেছে। হ্যাঁ, এটাই এখন পরের জিনিস, যেটা নিয়ে আমি এখন বলতে যাচ্ছিলাম। তুমি খুব ভালোভাবে সংক্ষেপে বলেছ। হ্যাঁ, Meta এটা সংগ্রহ করেছে এবং এমন মাত্রায় প্রসেসও করতে পারে।

183. 38:06 – 38:19 🗣 Wieland

     না না, আমি আসলে বলতে চেয়েছিলাম, নীতিগতভাবে এগুলো এমন তথ্য, যেগুলো যে কেউ শুধু এই অ্যাকাউন্টের পোস্টগুলো দেখলেই—আমি বলি—পুনর্গঠন করতে পারে।

184. 38:19 – 38:20 🗣 Jona

     সেটা এমনভাবে বলা যায় না।

185. 38:21 – 38:21 🗣 Wieland

     ঠিক আছে।

186. 38:21 – 39:10 🗣 Jona

     কারণ Meta নিজেও প্রচুর ডেটা সংগ্রহ করে, যা অবশ্যই তাদের বিজনেস মডেল। আর এমন অনেক কিছু আছে যেটা তুমি ধরতেই পারবে না। ছবি, পোস্ট, টাইমস্ট্যাম্প আর বর্ণনা থেকে তুমি অবশ্যই অনেক কিছু বের করতে পারো—এটা স্পষ্ট। অন্য একজন মানুষও তোমার জীবন সম্পর্কে খুব অনেক কিছু অনুমান করতে পারে। কিন্তু তুমি সেটা Meta-র মতো কনফিডেন্স লেভেলে করতে পারবে না, কারণ তাদের কাছে তোমার পুরো লোকেশন হিস্ট্রি ইত্যাদিও থাকে। তবে হ্যাঁ, তুমি ঠিক বলেছ—একজন বাইরের মানুষ হিসেবেও তুমি অনেক ডেটা অনুমান করতে পারবে। কিন্তু আমার মনে হয়, সোশ্যাল মিডিয়ায় থাকা প্রত্যেকের এটা সচেতন হওয়া উচিত; যদিও নিশ্চিতভাবে তা হয় না।

187. 39:10 – 39:34 🗣 Wieland

     আর আমার মনে হয় এটা আবারও একটা উদাহরণ—তাই আমি নিশ্চিত হতে চেয়েছিলাম যে এটা সত্যিই এমন উদাহরণ, যেখানে কেউ বashing খায় বা বিতর্কে পড়ে, কারণ এটা এমন ডেটা, যেগুলো সারাক্ষণই উপলব্ধ ছিল, সেগুলোকে এমনভাবে সাজিয়ে দেয় যে মানুষ এখন বুঝতে পারে: ওহ, এই ডেটা তো উপলব্ধই আছে।

188. 39:34 – 39:38 🗣 Jona

     হ্যাঁ, যেখানে এটা এখন একটা বৈধ সমস্যা হয়ে দাঁড়ায়।

189. 39:38 – 39:39 🗣 Wieland

     হ্যাঁ।

190. 39:39 – 39:48 🗣 Jona

     আর না যে: আহ, আচ্ছা, আমার ডেটা তো ওখানে অপব্যবহার হচ্ছে। সেখানে হয়তো সহজভাবে বলা উচিত: 'আহ, ঠিক আছে, সেখানে তো অনেক কিছু...'

191. 39:49 – 39:52 🗣 Jona

     যে তখন আর—আমি বলি—এটা উপেক্ষা করা যায় না।

192. 39:52 – 39:52 🗣 Wieland

     হ্যাঁ।

193. 39:52 – 40:03 🗣 Jona

     যে শুরুতে মানুষ শুধু অজ্ঞ ছিল আর এটা সহজভাবে মেনে নিয়েছিল, উঁহু, বা মেনে নিয়েছিল। আর হ্যাঁ, আচ্ছা, কিন্তু আমাদের কি এখন সত্যিই Meta বা Google-এর বিরুদ্ধে কিছু করতে হবে?

194. 40:03 – 40:04 🗣 Wieland

     হুম।

195. 40:04 – 40:17 🗣 Jona

     আচ্ছা, সেটা অবশ্যই লাগবে না। শেষে আমিও তো এটা অনেক ব্যবহার করি, আর তুমি শেষে নিজের জন্য শুধু অজুহাত খুঁজে বের করো। তুমি বুঝছ? আর তখন, যখন এটা স্বাভাবিকভাবে বাস্তব সমস্যা হয়ে ওঠে, হ্যাঁ, তখন অনেকেই এ নিয়ে উত্তেজিত হয়।

196. 40:18 – 40:19 🗣 Wieland

     যেমন বললাম, যদি তুমি এখন আমাকে বলো যে এটা—

197. 40:19 – 40:21 🗣 Jona

     কিন্তু তখন তো, যেমন বললাম, অনেক দেরি হয়ে গেছে।

198. 40:21 – 40:22 🗣 Wieland

     হ্যাঁ অবশ্যই, কিন্তু—

199. 40:22 – 40:28 🗣 Jona

     আসল বিষয়টা হলো, তারা এটা সংগ্রহ করে আর প্রসেস করে—এটা নয় যে তারা এখন কীভাবে প্রকাশ করেছে।

200. 40:28 – 40:40 🗣 Wieland

     হ্যাঁ, ঠিক। কিন্তু ব্যাপারটা হলো, যদি তুমি এখন আমাকে বলো যে তা সত্ত্বেও, এই ক্ষেত্রে Meta AI আসলে ইন্টারনাল ডেটা নিয়ে কাজ করেছে, অর্থাৎ এমন জিনিস যা শুধু পাবলিক পোস্ট থেকে পাওয়া যায়নি—

201. 40:40 – 40:40 🗣 Jona

     হ্যাঁ।

202. 40:40 – 40:46 🗣 Wieland

     —বরং Meta-র মডেল, যেটা অবশ্যই ব্যাকএন্ডে আছে, তার ভেতরে সবকিছুতেই অ্যাক্সেস আছে।

203. 40:46 – 40:46 🗣 Jona

     হ্যাঁ।

204. 40:46 – 41:00 🗣 Wieland

     আমি—আর তারা সম্ভবত ভালো কারণেই, মানে, হয়তো তাদের কোনো ধারণা ছিল, কিন্তু তারা অবহেলা থেকে এটা এমনভাবে সেট করেছে যে পাবলিক Meta AI, যাকে তুমি কোনো ব্যক্তির পোস্ট সম্পর্কে জিজ্ঞাসা করতে পারো—

205. 41:00 – 41:00 🗣 Jona

     ঠিক।

206. 41:01 – 41:10 🗣 Wieland

     —তোমার কাছে তখন Meta-র সেই ব্যক্তি সম্পর্কে থাকা সব ডেটার কনটেক্সট থাকে। শুধু সেই ডেটা নয়, যেগুলো পাবলিক প্রোফাইলে দেখা যায়।

207. 41:11 – 41:24 🗣 Jona

     হ্যাঁ, আমার জানামতে এটাই ঘটে। অবশ্যই কিছু সীমাবদ্ধতা থাকবে, হয়তো সবকিছু—আমি বলি—শতভাগ নয়। কিন্তু নিশ্চিতভাবে সেখানে অ-পাবলিক ডেটার অ্যাক্সেসও থাকছে।

208. 41:24 – 41:44 🗣 Wieland

     ঠিক, কারণ এই মাসে এমনই কিছু ঘটেছে, যা আমাকে এটা নিয়ে খুব মনে করিয়ে দিয়েছে এবং আমার পুরো... মানে, OpenStreetMap নিয়েও মাঝেমধ্যে এমন বিতর্ক হয়, যা নিয়ে সবাই আলোচনা করতে ভালোবাসে। আমি জানি না তুমি এই পুরো... God's Eye View প্রকল্পের কথা শুনেছ কি না।

209. 41:44 – 41:45 🗣 Jona

     না, এখনো না।

210. 41:45 – 41:58 🗣 Wieland

     মানে, একজন ডেভেলপার শুধু—উদ্ধৃতি চিহ্নে—একটা প্রোগ্রাম বের করেছে, বা কমবেশি খুব দুর্দান্ত দেখতে একটা, শেষে একটা ম্যাপ অ্যাপ্লিকেশন বের করেছেন—

211. 41:58 – 41:58 🗣 Jona

     হ্যাঁ।

212. 41:58 – 42:14 🗣 Wieland

     —যেখানে তিনি বাস্তব জগতের জিনিস নিয়ে প্রচুর পাবলিক API এক জায়গায় মিলিয়েছেন। যেমন ফ্লাইট রাডার, পাবলিকলি উপলব্ধ CCTV ক্যামেরা।

213. 42:14 – 42:14 🗣 Jona

     হ্যাঁ।

214. 42:15 – 42:38 🗣 Wieland

     সামরিক জিনিসের পাবলিকলি উপলব্ধ রুট, উঁহু, আর যা যা পাবলিকভাবে দেখা যায়। আর সেখানে—আমি বলি—একটা... আর বোঝা যাচ্ছিল যে তিনি একটু হাল ছেড়ে দিয়েছেন, কারণ শুরুতে তিনি এটা বোঝানোর চেষ্টা করতেন, কারণ খুব খুব প্রায়ই প্রশ্ন আসত: 'হ্যাঁ, কিন্তু আরে, আরে, না, তুমি এটা করতে পারো নাকি?'

215. 42:39 – 42:41 🗣 Wieland

     তাহলে, এটা কি অনুমোদিত? তাই,

216. 42:42 – 42:58 🗣 Wieland

     ক-কেন এমন আর তেমনও: 'বাহ, দারুণ, এই লোকটা তা করতে পারে, যা আমাদের সব গোয়েন্দা সংস্থা পারে না।' মানে, যতবারই তিনি এটা বলেছেন, মানুষ বুঝত না, এটা শুধু এমন ডেটার ভিজ্যুয়ালাইজেশন টুল যা চিরকালই পাবলিক ছিল।

217. 42:59 – 42:59 🗣 Jona

     হ্যাঁ।

218. 42:59 – 43:30 🗣 Wieland

     আর মানুষ এটা বুঝত না, আর তুমি—আর তুমি টের পাচ্ছ, আর আমি বলতে চাইছি, আমি এটাও বুঝি, কারণ এতে তিনি অবশ্যই আরও কুল দেখান। একসময় তিনি সত্যিই—আমি বলি—হাল ছেড়ে দিয়েছিলেন, এটা মেনে নিয়েছিলেন, কারণ আমি জানি—একটা ইন্টারভিউতে তিনি বলেছিলেন: 'হ্যাঁ, খুব গুরুত্বপূর্ণ হলো, আমি একটা লাইন টেনেছি: আমার টুল দিয়ে মানুষ ট্র্যাক করা যাবে না। আমি এটা এমনভাবে বসানোর সিদ্ধান্ত নিয়েছি যে ওখানেই সীমা টানব।' আর আমি ভাবি: 'তুমি তো কোনো লাইন টানো নি। আসলে কোনো পাবলিক API নেই যেখানে তুমি মানুষের ডেটা আনতে পারবে।'

219. 43:31 – 43:33 🗣 Wieland

     হ্যাঁ। [হাসি]

220. 43:33 – 43:37 🗣 Wieland

     তাই, জানি না এটা কী বোঝাচ্ছিল, কিন্তু আমার মনে হয়, এটা তো আবারও এমন একটা ব্যাপার—

221. 43:38 – 43:38 🗣 Jona

     হ্যাঁ।

222. 43:38 – 43:55 🗣 Wieland

     —যেখানে এখন এই সব AI বিষয় একটু ফাঁস করে, যেমনটা David Grisel যুগ যুগ আগে Spiegel-এর সঙ্গে করেছিলেন, যেখানে বলা হয়েছিল: 'হ্যাঁ, না, তুমি কিছু পরিস্থিতিতে হয়তো এটাও বের করতে পারো, রেডাকশনে কে কার সঙ্গে কী সম্পর্কে আছে।'

223. 43:56 – 43:56 🗣 Jona

     হ্যাঁ।

224. 43:56 – 44:06 🗣 Wieland

     তখন তিনি বলেন: 'আরে? ত-তুমি এটা করতে পারো? তুমি কি হ্যাক করেছ নাকি কোথা থেকে জানলে?' আর তিনি বলেন: 'না, এটা আমি পাবলিকলি উপলব্ধ ডেটা থেকে পড়ে বের করতে পারি।'

225. 44:07 – 44:07 🗣 Jona

     হ্যাঁ।

226. 44:07 – 44:07 🗣 Wieland

     তাই।

227. 44:08 – 45:28 🗣 Jona

     না, এটা তো, হ্যাঁ, কিন্তু এটা একজনকে—দেখে মনে হয় কেউ এটা বলে না যে, হ্যাঁ, এটা নিজে থেকেই তো—যখন এখন গোয়েন্দা কাজের কথা বলছি—এটাও আসলে মূলত, মানে নব্বই, পঁচানব্বই শতাংশই এক ধরনের ডেটা প্রসেসিং, যেটা সাধারণ ওপেন সোর্স, আমি বলি, উঁহু, ডেটার ওপর ভিত্তি করে, যেখানে তুমি শুধু বলো: 'হ্যাঁ, ঠিক আছে, তুমি নিজেই জিনিস কিনতে পারো, হয় সরাসরি কিনতে পারো, নয়তো পাবলিক ডেটা নিজের জন্য প্রসেস করে নিতে পারো।' আর শেষে এটাই কাজের বড় অংশ, আমি বলি, আর শেষে অবশ্যই তোমার কাছে দশ শতাংশ spicy shenanigans-ও থাকে, আমি বলি, কিন্তু সেগুলোও গোয়েন্দা কাজই থাকে, আর মানুষ কল্পনা করে যে সেই দশ শতাংশই বরং নব্বই শতাংশ, উল্টোটা নয়। আর এটা একটু অসমঞ্জস। হ্যাঁ, খুব ভালো, কিন্তু এটা আমি সঙ্গে সঙ্গে নোট করে নিলাম আর দেখব এটা দিয়ে কী কী করা যায়। জানি না, এখন আর কী কী API আছে যেগুলো এতে যুক্ত করা যেতে পারে, এখন পাবলিক ট্রান্সপোর্ট, উঁহু, ফ্লাইট, জাহাজ মনে হয়, ম্যাপ অবশ্যই। জানি না, কেমনিৎসে পাবলিকলি উপলব্ধ ক্যামেরা আছে কি, আর কতগুলো আছে?

228. 45:28 – 45:29 🗣 Wieland

     না, না, না। আমার জানামতে—

229. 45:29 – 45:29 🗣 Jona

     এটা তো ইতিমধ্যে—

230. 45:29 – 45:45 🗣 Wieland

     —আমার জানামতে অন্তত না। কিন্তু যেমন বললাম, তুমি খুব খুব বেশি কিছু পরোক্ষভাবে অনুমান করতে পারো। যেমন, হ্যাঁ, আমরা যেমন Transitions-এও বলেছি, শুধু পাবলিক ট্রান্সপোর্টের রিয়েল-টাইম ডেটা থেকেই তাত্ত্বিকভাবে অনুমান করা যায় এখন একটা বাস কোথায় আছে।

231. 45:46 – 45:46 🗣 Jona

     হ্যাঁ।

232. 45:46 – 45:47 🗣 Wieland

     এমন উদাহরণ।

233. 45:47 – 45:51 🗣 Jona

     আর এভাবে বাসচালকের মতো ব্যক্তিদেরও সত্যিই ট্র্যাক করা যায়।

234. 45:51 – 45:51 🗣 Wieland

     হ্যাঁ।

235. 45:52 – 45:53 🗣 Jona

     একটা নির্দিষ্ট অর্থে, হ্যাঁ।

236. 45:53 – 45:58 🗣 Wieland

     অথবা, তুমি তো এমন বিলম্ব থেকেও, যেগুলো তাত্ত্বিকভাবে হঠাৎ দেখা দেয়—

237. 45:59 – 45:59 🗣 Jona

     হ্যাঁ।

238. 45:59 – 46:02 🗣 Wieland

     —হয়তো একটু পড়ে বের করতে পারো এখন কোথায় জ্যাম।

239. 46:02 – 46:02 🗣 Jona

     হ্যাঁ।

240. 46:02 – 46:04 🗣 Wieland

     শুধু পাবলিক ট্রান্সপোর্টের ডেটা থেকে।

241. 46:04 – 46:04 🗣 Jona

     হ্যাঁ।

242. 46:04 – 46:27 🗣 Wieland

     আর এটা তো, হ্যাঁ, যেমন, হ্যাঁ, এমনও কিছু, যা আমি জানতাম না, যেমন, কে যেন প্রকাশও করে... উঁহু, যেমন লাইভ ডেটাও আছে, এটা বেশি আমেরিকার জন্য প্রাসঙ্গিক। সারা বিশ্বের দাবানলের লাইভ ডেটা আছে, যেটা তুমি যুক্ত করতে পারো। লাইভ ডেটা আছে, মানে প্রতিদিন প্রচুর ভূমিকম্প হয়, শুধু বেশিরভাগই দুর্বল, আর সেগুলোর কথা আমরা কিছু শুনি না।

243. 46:27 – 46:27 🗣 Jona

     হ্যাঁ।

244. 46:27 – 46:30 🗣 Wieland

     কিন্তু সেখানে লাইভ ফিডও আছে, যেগুলো সব তুমি যুক্ত করতে পারো। তাই।

245. 46:30 – 46:30 🗣 Jona

     ওহো।

246. 46:31 – 46:34 🗣 Wieland

     কোন স্যাটেলাইট কোথা দিয়ে উড়ছে, সেসবের লাইভ ডেটাও আছে।

247. 46:34 – 46:35 🗣 Wieland

     ঠিক,

248. 46:35 – 46:39 🗣 Wieland

     যেগুলো পাবলিকলি উপলব্ধ। আর হ্যাঁ, তাই সবই সম্ভব।

249. 46:40 – 47:32 🗣 Jona

     আহ, ভিলান্ড, এপিসোডটা আবার ধীরে ধীরে শেষের দিকে এগোচ্ছে। আমরা তো খুব, খুব বেশি এবং গভীরভাবে এআই নিয়ে কথা বলেছি, উম, কারণ আমরা আগেই বলেছি, এআইয়ের উন্নয়নগুলো এতটাই দ্রুতগতিতে এগিয়েছে যে শেষ পর্যন্ত অন্য প্রায় সব বিষয়কে পুরোপুরি ছাপিয়ে গেছে। ক্রাঞ্চ টাইমেও এবার সেটা কিছুটা ফুটে উঠেছে। ঠিক, এটা ছিল ক্রাঞ্চ টাইমের চুরাশিতম এপিসোড। এটি একটি টেক পডকাস্ট, যেখানে আমরা সব আইটি বিষয় নিয়ে কথা বলি এবং মাঝে মাঝে টিইউ ক্যাম্পাসের খবর আর আমাদের ব্যক্তিগত জীবন এবং ব্যক্তিগত প্রযুক্তি-পরিবেশে কী কী এগিয়েছে, তা নিয়েও বলি। ভিলান্ড, যদি কেউ বর্তমান এপিসোডটা কিছুটা দেরিতে চালু করে থাকে, তাহলে এখন কোথায় গিয়ে সেটা আবার শুনতে পারবে?

250. 47:32 – 48:00 🗣 Wieland

     ক্রাঞ্চ টাইমের এপিসোডগুলো আপনি যেখানেই পডকাস্ট পাওয়া যায়, সেখানেই পরে শুনতে পারেন—অবশ্যই স্পটিফাই, ইউটিউব এবং অ্যাপল মিউজিকে। তবে এর পাশাপাশি একটি আরএসএস ফিডও রয়েছে, যা আপনি podcast.radio-unique.de ঠিকানায় পেতে পারেন। আর আমাদের নিজস্ব ওয়েবসাইট radio-unique.de-তেও প্রতিবার এপিসোড এবং শো নোটস নিয়ে একটি আর্টিকেল পাওয়া যায়, যাতে আপনি চাইলে আমাদের পুরো ক্যাটালগ আবারও শুনতে পারেন।

251. 48:01 – 48:05 🗣 Jona

     খুব ভালো। তাহলে আমাদের ক্রাঞ্চ টাইমের পরের এপিসোড কখন আসবে?

252. 48:05 – 48:08 🗣 Wieland

     মানে, এটা তো প্রতিবারই মাসের চতুর্থ রোববারে এসে থাকে—

253. 48:09 – 48:09 🗣 Jona

     ঠিক।

254. 48:09 – 48:23 🗣 Wieland

     —বিকেল ছয়টায়, এবং আমাদের পরের এপিসোডেও অবশ্যই সেটাই হবে। আর সেটা এই ক্ষেত্রে ২৫ অক্টোবর ২০২৬। যদি আপনারা ঠিক সেই সময়ে, বিকেল ছয়টায়, চালু করেন, তাহলে শুনতে পাবেন ক্রাঞ্চ টাইমের পঁচাশিতম এপিসোড।

255. 48:23 – 48:25 🗣 Jona

     আশা করি, তখন আবার আমাদের কথা হবে। ভালো থাকবেন।

256. 48:26 – 48:26 🗣 Wieland

     বিদায়।

257. 48:33 – 48:33 🗣 Wieland

     আউট্রো জিঙ্গল

258. 48:33 – 48:39 🗣 Wieland

     এটাই ছিল ক্রাঞ্চ টাইম, আর এটি রেডিও ইউনিকের একটি প্রযোজনা।

Zuletzt aktualisiert am 1

1. 00:00 – 00:07 🗣 Wieland

   Radio Unique präsentiert [Hintergrundmusik] die Crunch Time.

2. 00:10 – 00:12 🗣 Wieland

   Mit Jona und Wieland.

3. 00:13 – 00:24 🗣 Wieland

   Hallo ihr Lieben da draußen und herzlich willkommen zur vierundachtzigsten Folge der Crunch Time, unserem siebenjährigen Jubiläum. Seit sieben Jahren bringen euch ich, der Wieland-

4. 00:24 – 00:25 🗣 Jona

   Und ich, der Jona.

5. 00:25 – 00:44 🗣 Wieland

   An jedem vierten Sonntag im Monat das Neueste aus der Welt der Technik und manchmal auch vom TU Campus und aus unseren persönlichen Technik-Machenschaften. Wir haben wieder heute eine schöne Stunde für euch vorbereitet, voller, ja, sag ich mal, News und deren Einordnungen aus der Technikwelt. Jona, erzähl doch mal.

6. 00:45 – 01:10 🗣 Jona

   Wir müssen uns mal so vor Augen führen, wie viel sich eigentlich in der Technikwelt so in den letzten sieben Jahren verändert hat. Weißt du, mir ist das nämlich auch heute erst so aufgefallen. Warte mal, es gibt ja eigentlich jede Woche kommt mindestens eine Neuigkeit heraus, wo es darum geht, okay, große Firma XY in Amerika wurde mit diesem KI unterstützten Exploit gehackt.

7. 01:10 – 01:10 🗣 Wieland

   Mhm.

8. 01:10 – 03:45 🗣 Jona

   Und das hat dann halt auch extreme Auswirkungen in dem Fall dann gehabt dann. Oh, es wurden dann Kundendaten waren da mit drin oder bestimmte Personaldaten waren da mit drin, irgendwelche geheimen Codebases, wo das halt, sag ich mal, immer vom Ausmaß halt eigentlich so richtig extrem ist. Und das ist jetzt einfach normalisiert, dass einfach so circa einmal pro Woche solche großen News rauskommen, wie, oh, Meta wurde auf diese Art und Weise gehackt und sie haben es nach kürzester Zeit dann natürlich behoben. Und, und bevor wir da jetzt noch auf irgendwelche spezifischen Details eingehen, wollte ich nur erwähnen, wie schwer das einfach wird, da hinterherzukommen. Also jetzt nicht für uns. Am, am Ende ist das ja für uns mehr oder weniger irrelevant, außer dass jetzt uns persönlich interessiert, wie da etwas zustande gekommen ist, sondern die ganzen Prozesse, die damit verbunden sind. Dass die Firmen einfach so extrem viel Energie dann jetzt mittlerweile da reinstecken müssen, um da immer hinterher zu sein, innerhalb von wenigen Stunden dann schon bestimmte Fixes für bestimmte Systeme rauszurollen, geschweige denn irgendwelchen, irgendwelche bürokratischen Prozesse. Weil wenn das jetzt in, bei einer deutschen Firma so passieren würde, dann wäre das natürlich: Oh, Schritt eins, du müsstest erst mal nach deinem, ich sag mal, [lacht] Sicherheitsprotokoll suchen, was du in diesem Fall, deine Checkliste, was du in dem Fall machst. Und im Optimalfall hast du so eine schon, sagen wir's mal so. Dann muss natürlich auch dein Datenschutzbeauftragter informiert werden. Der muss dann natürlich auch die Datenschutzbehörde informieren und sie, die kümmert sich ja an, am Ende dann ja auch erst mal die Informationsweitergabe schon mal direkt. Also die entscheiden dann ja auch, wie gravierend schlimm es jetzt ist und würde ja dann auch im Zweifelsfall die Kommunikation mit den betroffenen Mitarbeitern, wenn es um Personaldaten zum Beispiel geht, die dann auch informieren und nicht das Unternehmen selbst, soweit ich weiß. Während du als Firma musst dann halt einfach die ganze Zeit kämpfen und dir halt überlegen: Okay, lass mich jetzt, äh, wo-woran liegt es jetzt überhaupt? We-welche Version können wir jetzt vielleicht, von welchen Systemen können wir jetzt zurückrollen? Und du musst natürlich alle Keys direkt ersetzen, also alle SSH-Keys, irgendwelche anderen Log-on Keys, Passwörter, alles Mögliche muss dann halt direkt wieder ersetzt werden. Und das ist halt einfach ganz schön viel im Vergleich dazu, wie leicht das jetzt mittlerweile ist, dass man da, sag mal, weniger als dreitausend US-Dollar, wie jetzt im kommenden Beispiel, ausgeben muss, um einfach eine Serie von großen namenhaften Firmen zu hacken.

9. 03:45 – 03:45 🗣 Wieland

   Mhm.

10. 03:46 – 04:00 🗣 Jona

    Und das eben natürlich mit Geld, das man in Tokens gesteckt hat bei Cloud. Die Veröffentlichung des, ähm, des, des folgenden Sicherheitsproblem hat direkt mit dem XKCD-Comic begonnen oder Comic-Panel begonnen.

11. 04:01 – 04:01 🗣 Wieland

    Ja.

12. 04:01 – 06:37 🗣 Jona

    Eben dass ja das Internet und die meiste Software dann nur von einem, von einem zufälli, von einer zufälligen Person aus Nebraska ein bisschen zusammengehällt, gehält, gehalten wird, die eben 2006 irgendwann mal ein zufälliges, ähm, Projekt da mal durchgezogen haben. Und genau legit ist das dann am Ende auch so zur Schwachstelle geworden. Na ja, wie man das auch nennen möchte, Sicherheitsforscher mit dem Namen Sirius, die eben da mal bei OpenAI ein bisschen, ne, sie haben ja nicht aufgeräumt. Sie haben ja am Ende nur einen Pull Request im internen Git da veröffentlicht, um das, um da ein bisschen darauf aufmerksam zu machen. Sie haben ja nämlich am Ende die, das Discourse Forum geho-, ähm, gehackt, was ja OpenAI, ähm, hostet. Und das muss ja auch irgendwie Bilder verarbeiten, weil's halt ein Forum ist. Und da gibt es eben eine uralte C-Bibliothek, ähm, Lib H-E-I-F, wie auch immer man das ausspricht, ist ja für so, für 'n typisches Bild- und Videoformat, ähm, kennt man vielleicht. Und da gibt es einfach einen Heap-Overflow, den man darin, ähm, provozieren kann. Du kannst also eine Bilddatei im Forum hochladen, die halt manipuliert ist. Das heißt, du weist dort eigentlich diesem Codec an, zwei Bilder aufeinanderzulegen und halt mit verschiedenen Blendmodi et cetera, hat, hat man bestimmt schon mal in einem Bildeditor so gesehen. Und da kannst du eben auch ein Offset angeben, also um wie viel das Bild, was du drüberlegst, nach links, rechts, oben und unten verschoben werden sein soll. Und da kannst du natürlich auch negative Zahlen eingeben, sodass du, sag ich mal, das übergelegte Bild nach links zum Beispiel aus dem Bildrand rausschiebst, wenn du eine negative X-Koordinate eingibst. Das wird ja auch so legit vom System akzeptiert, aber bei der Weiterverar- Aber bei der Weiterverarbeitung passiert irgendwo am Ende ein, ein Cast, wie man ihn ja so aus C kennt, eben vom signed integer zum unsigned integer. Und das heißt, da wird mal schnell aus einer kleinen negativen Zahl, jetzt vielleicht minus fünfzig, um die man ein Bild verschieben möchte, dann eben natürlich die bekannten vier Komma zwei Milliarden, wenn du das, wenn du da am Ende den signed integer draus machst und dann versucht eben die Bibliothek an eine Stelle im Speicher zu schreiben, was prinzipiell auch ihr gar nicht gehört. Und da gibt es natürlich Systeme, die das verhindern, aber die konnten eben auch umgangen werden, sodass du dann tatsächlich Remote Code Execution hast.

13. 06:37 – 08:24 🗣 Jona

    Und mit diesem Remote Code Execution auf den OpenAI Servern konnten sie dann weiterhin dann sagen: „Komm, jetzt nutzen wir weiterhin, genauso wie jetzt auch, Claude vier Punkt acht, Claude Opus vier Punkt acht, sollte ich da korrekterweise sagen, und suchen eben noch nach einem Bug beim Login-System." Und da haben sie tatsächlich dann lange gesucht, aber tatsächlich nichts gefunden. Und ein paar Stunden später [lacht] kam dann Claude Opus fünf raus und damit war das dann halt in, ich weiß nicht, zwei, drei Stunden war es dann getan, sodass eben auch im Single Sign-on bei OpenAI dann auch noch eine Schnittst-- eine Schwachstelle gefunden werden konnte, sodass es am Ende mehrere, ich sage mal, extrem viele Teile waren, die du dann eben so aneinandergekettet hast, wo du dann eben halt kompletten Zugriff hattest, weil es ging dann ja darum, dass dann natürlich auch die E-Mail-Adressen der OpenAI-Mitarbeiter dann kompromittiert gewesen sind und du dann somit Zugriff auf alles hast. Da waren auch Slack dabei, das interne Git und halt auch noch andere Systeme, die die benutzen, Mitarbeiterdaten, alles Mögliche. Und dann hat eben der, ich sage mal, Sicherheitsforscher Slash Hacker, wie auch immer gesagt: „Ja, okay, komm, ich mache jetzt nur einen Pull Request. Hier, schaut mal nach, was da ist", so nach dem Motto. Und er hat da aber tatsächlich nur sechseinhalbtausend US-Dollar als Bug Bounty dafür bekommen, was tatsächlich verhältnismäßig wenig für so etwas ist. Und das lag nämlich daran, dass sie eben ihm das nur für den, äh, Single Sign-on Bug gegeben haben, weil du halt als Unternehmen nicht immer Bug Bounties für Softwareprojekte bezahlen kannst, die du einfach nur mitbenutzt.

14. 08:24 – 08:24 🗣 Wieland

    Ja.

15. 08:24 – 09:59 🗣 Jona

    Das geht ja nicht, weil w-wo kommst du denn dann hin, wenn dann jede Firma, die dann halt eine Bibliothek benutzt, dann halt direkt für den Sicherheitsforscher dann da direkt in Summe mehrere Millionen dann dalassen muss. Das wäre ja auch irgendwie Quatsch. Deswegen ist das dann natürlich out of Scope gewesen. War halt auch jetzt sehr große Neuigkeiten. Ich wollte das nur noch mal für euch so ein bisschen ausformuliert haben. Das hilft auch häufig dann so beim Verständnis von solchen komplexen, ähm, Ketten. Genau, und das war jetzt einfach nur mal so als Beispiel für die, für die aktuelle Situation, dass das ein bisschen schwierig sein wird, das alles so zu managen in der Welt. Und da liest man ja auch noch häufig von solchen Sandbox Escapes. Davon haben wir, darüber hatten wir auch schon gesprochen bei der Crunch Time. Und tatsächlich werden aber zum größten Teil nur die ein bisschen verhindert. Wenn man jetzt schaut, oh, okay, ähm, es kam ja jetzt Cloud Opus fünf Punkt fünf mit zusätzlichen, ähm, Sicherheitseinschränkungen raus. Damit ist aber prinzipiell auch nur der Sandbox Escape gemeint und nicht, wie kompetent das Modell agieren kann. Das ist natürlich komplett separat und am Ende hat man ja sowieso dann auch nur das, das Katz-und-Maus-Spiel zwischen, ja, du musst ja aber auch, du musst ja irgendwie mit KI-Sicherheitslücken erkennen können, wenn du halt der Gute oder der Böse bist. Wenn du halt im Un-im Unternehmen intern arbeitest und selbst halt legit nach Sicherheitslücken suchst und die Person außerhalb, die dann eben auch bei dir nach Sicherheitslücken sucht. Und irgendwie könnt ihr ja nicht unterschiedliche Werkzeuge dafür haben.

16. 09:59 – 10:00 🗣 Wieland

    Ja.

17. 10:00 – 10:31 🗣 Jona

    Das, das funktioniert ja nicht, sondern ja, es wird auf jeden Fall spannend. Und das war jetzt natürlich nur von natürlich immer einer der Hunderten einfach nur mal ein Beispiel, um das jetzt hier aufzuzeigen. Und ja, es sind jetzt auch vor zwei Tagen da auch brandneue Infos rausgekommen, wo wir aber jetzt auch vielleicht erst mal warten und erst mal gucken, bis sich die Informationslage da etwas entspannt hat und wir da auch wirklich was dazu, ähm, berichten können. Aber ich glaube nicht, dass das aufhören wird, diese, diese Welle an Sicherheitslücken.

18. 10:32 – 10:56 🗣 Wieland

    Ja, Jona, für mich war so ein bisschen der letzte Monat auch geprägt von, sage ich mal, eher kleineren KI-Modellen beziehungsweise Modellen, die jetzt nicht so, sage ich mal, extrem krass auf dem Frontier sind, sondern ja vielleicht ein bisschen zurückgestellt sind, aber dennoch sehr cool sind. So die erste Sache, die, über die irgendwie gefühlt alle geredet haben,

19. 10:57 – 11:34 🗣 Wieland

    wo ich zuerst dachte, oh, das ist ein Nischenthema, was niemand interessieren wird und dann haben aber plötzlich alle drüber geredet, ist Jeff, aber J-E-V geschrieben, nicht, äh, nicht der Jeff aus der Treff Punkt achtzehn DE Werbung. Ähm, genau, also Jeff ist ein KI-Modell, was rausgekommen ist, ähm, was proprietär ist, aber da wurde eine interessante Technik benutzt, ähm, durch die dieses KI-Modell keinen Text ausgibt, sondern es kann einfach nur aus von dir bereits übergebenen Optionen wählen. Und das macht es aber sehr schnell und sehr billig.

20. 11:34 – 11:34 🗣 Jona

    Ja.

21. 11:34 – 12:13 🗣 Wieland

    Dadurch, dass alle Entscheidungen, also die Entscheidungen müssen alle unabhängig voneinander sein, aber es können halt quasi beliebig viele sein. Also ich glaube, technisch ist es auf zweihundertsechsundfünfzig beschränkt, aber es können halt viele Entscheidungen gleichzeitig sein, viele Fragen, die du stellen kannst zu deinem Input, zu deinem Zustand und, äh, die Antworten werden alle parallel generiert. Deswegen es extrem schnell geht und auf der anderen Seite ist es extrem billig. Also während wir ja bei anderen KI-Modellen immer so von, was weiß ich, zehn Dollar pro Million Tokens Input, fünfzig Dollar pro Million Tokens Output sprechen, sprechen wir hier von vier Komma zwei Cent pro Million Tokens Input und die Output Tokens

22. 12:13 – 12:14 🗣 Wieland

    Sind umsonst.

23. 12:14 – 12:14 🗣 Jona

    Ja.

24. 12:14 – 12:19 🗣 Wieland

    Weil sie halt zu miniskul sind, um gemessen zu werden.

25. 12:19 – 12:29 🗣 Jona

    Das ist natürlich extrem geil und das ist ja am Ende nur eine, natürlich am Ende eine riesige Einschränkung, weil man sich das ja so vorstellen kann, als hätte man einfach ein striktes Ausgabeschema-

26. 12:29 – 12:30 🗣 Wieland

    Ja.

27. 12:30 – 12:37 🗣 Jona

    -als JSON-Schema mit übergeben und das ist am Ende ein großes Klassifizierungsproblem- -aus dem Machine Learning, wie man es halt kennt.

28. 12:38 – 12:50 🗣 Wieland

    Ja. Und das fand ich auch so interessant, weil also, ähm, zum einen, sie haben sich so 'n bisschen in Nesseln gesetzt, weil sie in ihrem Werbematerial gesagt haben: "Oh, das Modell kann nicht halluzinieren." So.

29. 12:50 – 12:52 🗣 Wieland

    Na ja. [lacht]

30. 12:52 – 12:55 🗣 Wieland

    ja. Also, was sie damit meinten, ist, es kann halt nicht von dem Schema abweichen-

31. 12:56 – 12:56 🗣 Jona

    Ja.

32. 12:56 – 13:12 🗣 Wieland

    -was du gibst. Und da ist mir aufgefallen, sehr viele Leute scheinen Structured Outputs nicht zu kennen, weil das so 'n bisschen, so viele Kommentatoren haben auch das schon als revolutionär angepriesen, während das ja etwas ist, was es wirklich schon seit längerem gibt, dieses-

33. 13:12 – 13:12 🗣 Jona

    Ja.

34. 13:12 – 13:15 🗣 Wieland

    -ein bestimmtes JSON-Schema als Output erzwingen können.

35. 13:15 – 13:18 🗣 Jona

    Das geht ja doch schon bei extrem alten Modellen-

36. 13:18 – 13:18 🗣 Wieland

    Ja.

37. 13:18 – 13:26 🗣 Jona

    -die jetzt für, wo man jetzt heutzutage sagt, na ja, das ist doch jetzt hier noch [lacht] Steinzeittechnologie- -sagen wir mal, da geht das auch schon.

38. 13:26 – 13:30 🗣 Wieland

    Ja. Aber das fand ich, ähm, sehr, sehr interessant.

39. 13:30 – 13:30 🗣 Jona

    Ja.

40. 13:30 – 13:50 🗣 Wieland

    Und, äh, das ist aber halt sehr, sehr cool, weil ich denke, es gibt viele Anwendungsfälle, wo du quasi nur so 'ne Entscheidung hast. Und das ist auch eigentlich das, was so man als Programmierer auch am ehesten so von KI erwartet. Dass es einfach ein KI-gestütztes If-Statement oder ein KI-gestütztes Switch-Statement ist.

41. 13:50 – 13:50 🗣 Jona

    Ja.

42. 13:50 – 14:16 🗣 Wieland

    Und es ist halt so billig und geht so schnell, dass du da halt wirklich, ja, viel große Datenmengen mit verarbeiten kannst, ohne dass du's überhaupt wirklich merkst in deinem Workflow. So. Es war so schnell, dass sie das Modell zum Beispiel testweise haben Doom spielen lassen. Einfach nur, weil quasi dieser, der Input und der Output, muss man aber sagen, es war quasi, das Modell bekam den Zustand schon als Text gegeben, weil es kann wirklich nur Text lesen, das Modell.

43. 14:16 – 14:16 🗣 Jona

    Mhm.

44. 14:16 – 14:32 🗣 Wieland

    Also hat jetzt nicht Doom angeguckt, aber es hat immer nur den Zustand bekommen und dann halt wirklich innerhalb von fünfzig Millisekunden bekommt es die Antwort, wo quasi auf die Frage: Sollte man jetzt diesen Knopf drücken? Sollte man jetzt diesen Knopf drücken? Sollte man diesen Knopf drücken? Die immer quasi beantwortet werden, die Fragen.

45. 14:33 – 14:33 🗣 Jona

    Ja.

46. 14:33 – 15:32 🗣 Wieland

    Das ist schon ziemlich, ziemlich cool. Und das andere, was ich halt diesen Monat auch noch extrem interessant fand, was relativ unter dem Radar geflogen ist, waren die Modell-Releases von Desert Ant Labs. Das ist eine, es ist eine KI-Firma aus Europa und die haben eine Reihe von, also eine, mit einer Reihe meine ich wirklich 'ne Menge, spezialisierter kleiner Modelle entwickelt, die dafür da sind, auf Telefonen zu laufen. Und sie sind wirklich immer speziell darauf trainiert, eine bestimmte Sache zu machen. Da gebe ich dir einfach nur so mal so 'n paar Beispiele. Also beziehungsweise ich lese dir einfach vor, was es da alles, äh, gibt. Und zwar, wir haben, also die haben auch immer so, so, so wilde Namen. Da gibt's zum Beispiel der, das Modell Align, dem du tatsächlich ein Audio und ein bereits existierendes Transkript dieses Audios geben kannst und es verbessert die Wortzeitstempel in diesem-

47. 15:32 – 15:32 🗣 Jona

    Ja.

48. 15:32 – 16:40 🗣 Wieland

    -in diesem, in diesem Transkript. Dann gibt es ein Modell, das heißt Clear, was einfach nur ein Audio-Störgeräusche-unterdrücken-Ding ist. Dann gibt es das Modell Clips, das, äh, kann aus einem Transkript mit Zeitstempeln coole Momente für Clips raussuchen. Ähm, dann gibt's ein Modell, was speziell dafür da ist, einfach nur herauszufinden, welche Sprache gesprochen wird in einem Audio. Das heißt Ear. Dann gibt's eins, das heißt Emo, was einfach nur dafür da ist, aus einem Text, zu einem Text ein Emoji vorzuschlagen. Also du siehst, das sind ganz viele so ganz kleine Modelle. Die sind teilweise so eins Komma fünf Megabyte groß. So. Dann ein Modell, was, äh, äh, Tags und Themen für Beiträge erstellt. Dann auch zum Beispiel ein Modell, was dafür da ist, äh, 'ne personally identifiable information in einem Text zu finden und zu zensieren. Und da gibt es noch ein richtig wildes, wo du aus einer Linie, die du mit dem Finger zeichnest, eine perfekte Form quasi machst. Also du zeichnest eine Linie auf deinem, auf deinem Gerät- -und bekommst quasi die SVG-Koordinaten von einer quasi perfekten Linie, dieser Linie zurück.

49. 16:40 – 16:40 🗣 Jona

    Mhm.

50. 16:41 – 17:38 🗣 Wieland

    Alles solche Späße. Etwas, was Titel erstellt, etwas-- Es, es, es, es ist mega krass. Und dann gibt's natürlich auch einige, äh, Modelle, die noch in der Beta sind, beziehungsweise noch nicht öffentlich verfügbar sind. Und zwar, da, die konnte ich noch nicht testen. Da gibt's zum Beispiel eins, das heißt Eye, wo es darum geht, Bilder nach Ästhetik und Inhalt zu kategorisieren und zu ranken. Dann ein Modell, das heißt Face, was dafür da ist, Personen wiedererkennen zu können, um zum Beispiel halt in, in der Galerie auf deinem Handy halt Bilder zu clustern, nach wer darauf zu sehen ist. Dann gibt's ein Modell, das heißt Moderator. Da geht's darum, Nacktheit auf Fotos zu erkennen. Ähm, ein Modell, das heißt, äh, Schemer, wo einfach beliebiges JSON aus Text extrahiert werden kann. Ein Modell, was Hassrede erkennen kann und ein Modell, was das, äh, da, was dafür da ist, zu erkennen, wer in einem Audio oder Video wann was gesagt hat. Was zum Beispiel für Podcast-Verarbeitung sehr gut wäre. So.

51. 17:38 – 17:48 🗣 Jona

    Ich wollte nämlich gerade schon sagen, bei den ganzen Audiomodellen- -über die da gerade gesprochen hast, da hab ich mir gedacht, das ist doch eigentlich schon exakt das- -was dein Plan war oder du schon implementiert hast.

52. 17:48 – 17:48 🗣 Wieland

    Ja.

53. 17:48 – 17:53 🗣 Jona

    Und das jetzt halt einfach mal in so 'nem kleingepackten Modell mal auszuprobieren- -das klingt doch geil.

54. 17:54 – 17:54 🗣 Wieland

    Das-

55. 17:54 – 17:56 🗣 Jona

    Hast du denn etwas dazu herausgefunden?

56. 17:56 – 18:15 🗣 Wieland

    Ähm, na, pass auf, Jon, da gab's nämlich noch ein-- Also ich kann dir sagen, äh, ich mache auf jeden Fall, wie ihr vielleicht auch schon auf unserem YouTube-Kanal gesehen habt, mache ich Fortschritte, was dieses ganze Thema angeht. Nicht mit diesen Modellen, aber die werde ich auch versuchen zu inkorporieren. Aber eine sehr interessante Sache-

57. 18:16 – 18:33 🗣 Wieland

    Die passiert ist im Zuge dieser, meiner Beschäftigung mit diesen Modellen, war etwas, wo ich ganz langsam sage: „Jona, ich glaube, wir haben den Tipping Point erreicht bezüglich: Es gibt eigentlich nichts, was die heutigen Modelle nicht können." Also jetzt, also was der normale Mensch alltäglich machen will.

58. 18:34 – 18:34 🗣 Jona

    Ja.

59. 18:34 – 18:38 🗣 Wieland

    Like obviously, ähm, hören wir gerade davon, dass, äh, immer mehr

60. 18:39 – 18:43 🗣 Wieland

    jahrhundertelang ungelöste Mathematikprobleme gelöst werden.

61. 18:43 – 18:44 🗣 Jona

    Richtig, ja.

62. 18:44 – 18:51 🗣 Wieland

    Okay, I guess. Aber, ähm, es ist ja das neue Modell von OpenAI, GPT sechs Astra rausgekommen.

63. 18:52 – 18:52 🗣 Jona

    Ja.

64. 18:52 – 19:25 🗣 Wieland

    Und Thibault, unser Herr und Erlöser, [lacht] hat einen Reset gegönnt, sodass ich natürlich damit ein bisschen rumspielen konnte und ich habe natürlich die Sachen ausprobiert, die, ähm, alle Leute mit ausprobiert haben. Zum Beispiel, als wir auf den Campus-Medientagen waren in Bamberg vor ein paar Wochen, ähm, da habe ich einfach eine schnelle Room-Tour gefilmt von unserem Jugendherbergszimmer und habe diese Room-Tour einfach nur das Video, habe das Astra gegeben, hab Blender aufgemacht, den Blender MCP installiert und hab gesagt: „Bau dieses Zimmer mal als 3D-Modell nach."

65. 19:25 – 19:25 🗣 Jona

    Ja.

66. 19:25 – 20:07 🗣 Wieland

    Und es hat's einfach gemacht. Und es sah auch richtig gut aus, richtig mit Shadern und allem und es sah einfach viel geiler aus, als ich mir erhofft hatte. Es war mega geil. Und also ich konnte ihm keine, also ich konnte ihm keine Aufgabe stellen, die er nicht hinbekommen hat. Und dann habe ich, bin ich auf folgendes Problem gestoßen: Als ich diese, also ich hab natürlich dann einfach dem, dem Codex gesagt: „Hier, schreib mir mal 'ne schnelle Android-App, mit dem ich diese ganzen Modelle einfach testen kann- -auf meinem Handy." Hat er auch gemacht, aber ich hab auch gelesen so, diese Modelle, einige von denen sind nicht in der, in der geschlossenen Beta, aber sind vorerst, die sind eigentlich immer für Android, iOS und JavaScript rausgekommen. Einige der Modelle, insbesondere die Sachen mit dem Audio-

67. 20:08 – 20:08 🗣 Jona

    Mhm.

68. 20:08 – 20:14 🗣 Wieland

    -sind vorerst nur für Apple Intelligence. So, und das war natürlich doof, weil ich habe kein iPhone.

69. 20:15 – 20:15 🗣 Jona

    Ja.

70. 20:16 – 20:39 🗣 Wieland

    Und dann hab ich einfach ein bisschen recherchiert und damit meine ich, ich habe eine andere ChatGPT-Instanz gefragt: „Ja, hier diese, diese Modelle von Apple, diese Punkt M Model, M Model C-Dateien, so die für die Neural Engine sind", sagt, also, ist, enthalten die prinzipiell alle Informationen, dass man die auch woanders abspielen könnte oder dass man die konvertieren könnte?

71. 20:39 – 20:39 🗣 Jona

    Mhm.

72. 20:39 – 20:51 🗣 Wieland

    Und dann hat Chatty gesagt: „Ja, also prinzipiell müssten die alle Informationen enthalten" und ich konnte jetzt im Internet auch finden, dass manche Leute das mal versucht haben, so einen Konverter zu schreiben.

73. 20:51 – 20:51 🗣 Jona

    Mhm.

74. 20:51 – 21:06 🗣 Wieland

    Aber es gibt auf jeden Fall nichts Fertiges, wo man das einfach rein- und rausstecken kann. Und dann bin ich einfach zu Codex gegangen, hab GPT-6 Astra sehr hoch angemacht und habe gesagt: „Einige dieser Modelle gibt es nur für Apple. Ändere das."

75. 21:06 – 21:07 🗣 Wieland

    [lacht]

76. 21:08 – 21:08 🗣 Wieland

    Und er hat's gemacht.

77. 21:09 – 21:09 🗣 Jona

    Ja.

78. 21:09 – 21:28 🗣 Wieland

    Er hat einen Weg gefunden, erfunden, um diese Modelle in das ONNX-Format zu konvertieren und jetzt konnte ich halt die Modelle auf meinem Android-Handy halt ausprobieren. Ich dachte mir nur so: „Also langsam, langsam gibt es einfach nichts, was die Modelle nicht können."

79. 21:28 – 21:28 🗣 Jona

    Ja.

80. 21:29 – 21:53 🗣 Wieland

    So jedes, so-- Und ich habe dann, ich hab so viel Sachen gemacht, einfach um zu gucken, um zu gucken, gibt es irgendwas, was die Modelle nicht können, insbesondere halt jetzt beim Erstellen von Spielen und bei 3D-Sachen. Also ich hab, ich hab da so viele Tests mit gemacht, einfach nur um zu sehen, komm, irgend-irgendwann muss es doch scheitern. Ich hab 'n random Foto von 'nem Emoji, was ich auf meinem Rechner hatte, hab ich reingezogen, hab gesagt: „Bau dieses Emoji als 3D-Modell nach."

81. 21:54 – 21:54 🗣 Jona

    Ja.

82. 21:54 – 22:07 🗣 Wieland

    „Bitte aber mit genau dem, mit der Textur und dem Shading, wie es auf dem Bild zu sehen ist." Hat er einfach gemacht. Viel komplexer auch, als ich das dachte. Dann hatte ich halt so 'ne, so 'ne, aus so 'nem Assetpack, so 'ne Vorlage von so 'nem Stadtspiel-

83. 22:08 – 22:08 🗣 Jona

    Mhm.

84. 22:08 – 22:25 🗣 Wieland

    -wo so alles so statisch war. Da hab ich gedacht: „Hier, hier ist dieses Stadtasset." Ich hab Godot aufgemacht und hab gesagt: „Erfüll das mit Leben. Die Autos sollen wirklich fahren und die sollen sich an die Straße halten und alles und halt abbiegen und die Flugzeuge sollen fliegen und, und alles und..." Und er so: „Ja, okay, hab ich gemacht." Und hat er halt gemacht.

85. 22:25 – 22:25 🗣 Wieland

    [lacht]

86. 22:25 – 22:28 🗣 Wieland

    Also das ist wirklich krass.

87. 22:28 – 22:28 🗣 Jona

    Ja.

88. 22:28 – 22:36 🗣 Wieland

    Das Einzige, was dich halt wir-- Also Einzige, was einen halt wirklich beschränkt, ist halt, [lacht] ob du das Hundert-Euro- oder das Zweihundert-Euro-Abo hast.

89. 22:36 – 22:36 🗣 Wieland

    [lacht]

90. 22:36 – 22:46 🗣 Wieland

    Und als der Mensch mit dem Hundert-Euro-Abo bin ich halt statistisch gesehen der Pleb, der halt nicht das Zweihundert-Euro-Abo für die vierfache Nutzung des Hundert-Euro-Abos hat.

91. 22:46 – 22:47 🗣 Jona

    Mhm.

92. 22:47 – 23:06 🗣 Wieland

    Aber also das find ich halt richtig krass und ich merke bei mir so 'n bisschen, also da merke ich so eine Decision Fatigue. So eigentlich beschreibt man Decision Fatigue als wenn man Leuten nicht, sag ich mal, was vorgibt, sondern ihnen ganz, ganz viele Optionen gibt, dann haben sie keine Lust mehr, überhaupt eine Wahl zu treffen.

93. 23:06 – 23:06 🗣 Jona

    Ja.

94. 23:06 – 23:30 🗣 Wieland

    Manchmal ist halt besser, wenn man Leuten nur wenige Optionen oder gar keine Optionen gibt. Weil manchmal wollen sie nicht entscheiden, wenn man ihnen zu viele Optionen gibt. Und so was Ähnliches spüre ich bei mir, Jona. Also ich merke quasi, da ich quasi alles mit KI machen könnte, will ich irgendwie nichts mit KI machen. So, also das ist, das ist halt so, ich merke das.

95. 23:30 – 23:36 🗣 Jona

    Und wie immer bei jeder Crunch Time kommen wir am Ende bei den philosophischen Fragen heraus. Richtig.

96. 23:36 – 23:46 🗣 Wieland

    Na, und vor allem ist es auch ein bisschen so, also ich bin, ich bin, ich beneide oder ich, also ich freue mich für die Leute, die wirklich mit Hilfe von KI 'n Business aufbauen.

97. 23:46 – 23:46 🗣 Jona

    Mhm.

98. 23:46 – 24:08 🗣 Wieland

    Weil ich kann dir, ich kann dir und euch mal so 'n kleinen Einblick geben. Also eventuell arbeiten ich und eine Freundin da im Hintergrund an etwas, aber es ist halt wirklich so, dass ich mir denke, ich mein, ich mach das zum größten Teil, weil's mir Spaß macht, aber ich sehe keinen Markt mehr für irgendwas. Also ich denke mir, das, was wir machen, wir haben, wir haben, wir haben keine sogenannte Mode.

99. 24:08 – 24:09 🗣 Jona

    Ja.

100. 24:09 – 24:19 🗣 Wieland

     So quasi, wir können das machen, was wir da machen und sobald jemand auf die Idee kommt: „Hey, ich mache, ich hab Bock, genau dasselbe zu machen, nur zwei Prozent besser."

101. 24:19 – 24:19 🗣 Jona

     Ja.

102. 24:19 – 24:25 🗣 Wieland

     Dann hat er das an einem Nachmittag gemacht theoretisch, weil die KI-Agenten das heute halt alles können heutzutage.

103. 24:26 – 24:42 🗣 Wieland

     So dass quasi es da ka-, also es, es ist, ja, ich bin, ich bin gespannt sozusagen, wo die Mode liegen wird. Also ich befürchte oder denke so ein bisschen, dass es halt, dass die Mode halt immer noch der Men, die menschliche Kreativität und der menschliche Geschmack sein werden.

104. 24:42 – 24:42 🗣 Jona

     Ja.

105. 24:43 – 24:54 🗣 Wieland

     Verstehst du? Weil ich denk mir halt quasi, also quasi theoretisch kann jeder jedes Videospiel heutzutage in sehr wenig Zeit machen. Die Frage ist nur: Ist die Idee gut?

106. 24:55 – 24:56 🗣 Jona

     Ja. [seufzt]

107. 24:56 – 25:01 🗣 Wieland

     So im Prinzip ich, ich, ich könnte, wenn ich lustig wäre, dreißig eigene Watch-Dogs-Spiele machen.

108. 25:02 – 25:02 🗣 Jona

     Ja.

109. 25:02 – 25:12 🗣 Wieland

     Die Frage ist: Sind die besser als die Originalen? [Lachen] Sind sie, sind sie, wenn ich geile Ideen habe und die KI anweise, diese geilen Ideen einzubauen und wenn nicht, dann aber nicht.

110. 25:13 – 25:15 🗣 Jona

     Was soll ich denn darauf jetzt antworten? [Lachen]

111. 25:15 – 25:21 🗣 Wieland

     Na ja, keine Ahnung. Was, was, was denkst du? Was denkst du, wie sich das entwickeln wird? Also ich hätte nicht gedacht, dass es halt so schnell passiert. Und-

112. 25:21 – 25:21 🗣 Jona

     Ja.

113. 25:22 – 26:26 🗣 Wieland

     Und ich sag mal so, du hast ja bestimmt auch gehört, dass jetzt in letzter Zeit dieser ganze For Real AI Doom Talk jetzt so sage ich mal am Start war. Vor allem mit dem Neuralesis und mit dem Ganzen so. Also da, da gab es viel Fake News und ich hatte mich am Anfang schon so ein bisschen gefreut, dass ich hier in der Crunch Time sitzen werde und dir sagen werde: „Ja, Jona, weißt du, es gibt da halt in diesem Paper AI 2027 ist ein relevanter Tipping Point der Handlung, dass, ähm, die ganzen KI-Firmen irgendwann sagen, die KIs sind nicht mehr verpflichtet, quasi auf Englisch auszusprechen, was sie denken, sondern können quasi in puren Vektoren denken, wodurch sie viel besser denken können, aber wir nicht mehr kontrollieren können, was sie denken." Und das ist ein Major Grund in dieser fiktiven Geschichte, warum die Menschen die Kontrolle über die KI verlieren. Und eigentlich wollte ich jetzt hier sitzen und sagen: „Ja, weißt du, und dann hat OpenAI sich gedacht: 'Phörp, ich weiß, was wir heute tun werden.'" [Lachen] Aber ganz so war es wohl nicht.

114. 26:27 – 26:27 🗣 Jona

     Ja.

115. 26:27 – 26:28 🗣 Wieland

     Aber es ist schon

116. 26:29 – 26:37 🗣 Wieland

     heftig, dass, also ich finde, man spürt die Acceleration schon sehr. Ich hätte nicht gedacht, dass so schnell es so krass wird.

117. 26:37 – 27:10 🗣 Jona

     Und am Anfang hatten wir nur noch solche, solche banalen Sachen wie: Oh, da, es ist jetzt, da ging es jetzt noch gerade so um GPT drei oder. Du, du erinnerst dich ja vielleicht noch an unsere erste Konversation darüber so wirklich, wo wir dann gesagt, wo du mir halt erklärt hast: „Ja, du kannst dann halt, du hast dann halt effektiv eine Funktion, die dir halt natürlich sprachlichen Text ausgeben kann auf eine gewisse Weise." Ja, lol. [Lachen] Wo sich das hinentwickelt. Ich glaube, da brauche ich noch mal einen Business Month, um darüber nachzudenken. [Lachen] So intensiv ist das.

118. 27:10 – 27:30 🗣 Jona

     Nein, ähm, uff, das macht es halt auch prinzipiell auch den Entwicklern extrem schwierig, weil, weil du halt dann am Ende auch n, dann immer weniger und weniger kontrollieren oder korrigieren musst. Dass dann am Ende tatsächlich der, der Code am Ende, ich will nicht sagen wertlos ist, aber der Code, ei, aber Programmieren eigentlich wertlos ist.

119. 27:31 – 27:31 🗣 Wieland

     Ja.

120. 27:31 – 27:59 🗣 Jona

     Weil es einfach zu zugänglich ist, dem Computer das beizubringen, was man möchte und das einfach schon zu, zu, in so einem extremen Level geht, so wie sich Leute das dann auch schon teilweise so vor, naive Leute das schon vor zehn Jahren vorgestellt haben, wie ich sage mit dem Computer etwas und er muss genau das jetzt tun. Dass man da tatsächlich schon auf diesem Niveau ist, dass man einfach den, den Übersetzer, also den Entwickler in dem Fall einfach dann komplett ausgegrenzt hat-

121. 27:59 – 28:00 🗣 Wieland

     Ja.

122. 28:00 – 28:01 🗣 Jona

     Aus diesem Prozess.

123. 28:01 – 28:17 🗣 Wieland

     Und ich finde vor allem faszinierend, ähm, wenn man bedenkt, ich hab, also man hat ja früher dann immer so gedacht, so okay, man stellt sich dann immer diese, diese Star-Trek-Szenarien vor, wo die ja quasi auf ihrem Schiff mehr oder weniger auch ja so einen superintelligenten Computer haben.

124. 28:17 – 28:17 🗣 Jona

     Ja.

125. 28:18 – 28:21 🗣 Wieland

     Ähm, dem man theoretisch halt per Sprache einfach alles sagen kann.

126. 28:22 – 28:22 🗣 Jona

     Ja.

127. 28:22 – 28:28 🗣 Wieland

     Und bisher war ja immer dann so die Vorstellung so: Okay, ganz so ist es ja nicht, weil heutzutage brauchen wir halt Data Centers.

128. 28:28 – 28:28 🗣 Jona

     Ja.

129. 28:28 – 28:30 🗣 Wieland

     So, du kannst ja nicht so ein Data Center mit dir rumschleppen.

130. 28:30 – 28:31 🗣 Jona

     Ja.

131. 28:31 – 29:03 🗣 Wieland

     Aber ich meine, es geht immer mehr in die Richtung, dass du halt mit, sage ich mal, mit einem Server-Rack voller bestimmter spezialisierter Hardware das durchaus machen könntest. Also wenn wir jetzt vielleicht mal von Raumschiffen weggehen, ist es durch und wir bleiben mal so ein bisschen, wir bleiben mal auf der Erde und sprechen zum Beispiel von, von so was wie Flugzeugträgern. Was ja auch, wie ein, ein gro, es ist wie ein großes Raumschiff, nur halt nicht im Raum, sondern halt auf dem See, auf dem Meer. So, es ist absolut vorstellbar, dass du einen Flugzeugträger hast.

132. 29:03 – 29:04 🗣 Jona

     Ja.

133. 29:04 – 29:17 🗣 Wieland

     Und der hat halt irgendwo einen Serverraum, wo ein Rack mit solcher spezialisierter Hardware rumsteht und das ist effektiv der eine Computer, den es da noch gibt. Und mit dem reden die Menschen einfach nur die ganze Zeit.

134. 29:18 – 29:18 🗣 Jona

     Ja.

135. 29:18 – 29:29 🗣 Wieland

     Was in gewisser Weise das ist, was ja sich der Mensch eigentlich immer vom Computer gewünscht hat, nur bisher nicht in der Lage war zu machen. Ich glaube, das war halt so das, was-

136. 29:29 – 30:03 🗣 Jona

     Aber das ja auch immer, das ja auch immer der Point dieser Geschichten, um, um ja auch auszudrücken, wie gefährlich das sein kann. Deswegen we-weiß ich nicht, ob, wie man das so mit den Wünschen das so einordnen kann. Und außerdem ist das ja auch immer ein bisschen so der, ich, ich will nicht sagen wie eine Art Plot Point, aber auch Teil des Lore, wie du auf dem, ähm, wie, wie du dann da eben an die großen Mengen an Energie kommst, um dann eben deine, deine ganze Technik da zu betreiben. Ich glaube, in diesem Rahmen wäre das dann auch denkbar, da halt wirklich irgendwo ein Server-Rack stehen zu haben.

137. 30:03 – 30:03 🗣 Wieland

     Ja.

138. 30:04 – 30:12 🗣 Jona

     Und das mit der, ich sag mal, be-beliebigen Energiequelle, die sich da der Autor ausgedacht hat, dann damit zu betreiben.

139. 30:12 – 30:30 🗣 Wieland

     Nee, ich meinte jetzt aber quasi, ich würde behaupten, dass der Gesellschaft in der Vergangenheit, sage ich mal, schon ganz oft quasi das versprochen wurde, was jetzt heute langsam Realität wird bezüglich der Interaktion mit dem Computer. So, du hast ja alleine, wenn wir an Siri denken-

140. 30:30 – 30:30 🗣 Jona

     Ja.

141. 30:31 – 30:50 🗣 Wieland

     Oder alleine auch sage ich mal, an die, an die selbst, ich will sagen, selbst die Kommandozeile war quasi mehr oder weniger ein: „Hey, guck mal, du kannst ja, also ne, du interagierst einfach mit dem Computer, aber du musst halt eine bestimmte Modalität benutzen. Du musst seine Sprache sprechen." So, und wir bewegen uns immer mehr darauf hin, einfach mit dem Computer reden zu können.

142. 30:51 – 31:06 🗣 Jona

     Richtig. Und beim Monitor und der Schreibtisch und den ganzen Schreibtischanalogien, die das natürlich mit sich gebracht hat, war das ja dann am Ende genauso: Oh, du hast jetzt eine viel intuitivere Weise, mit dem Computer zu interagieren, so wie du dir es dir jetzt, jetzt auch schon die ganze Zeit gewünscht hast. Nicht nur: Ah, okay, du musst jetzt-

143. 31:07 – 31:23 🗣 Jona

     Du musst dir halt die ganzen Befehle merken und die halt in der richtigen Reihenfolge ausführen, damit du dann halt genau XY das und das tun kannst. Und am Ende hatten sich das ja dann auch schon diesen kleinen Schritt dann ja wieder so viele, so viele dann schon gewünscht, weil es einfach jetzt noch nervig ist und es ja deswegen Innovation gibt.

144. 31:23 – 31:29 🗣 Wieland

     Deswegen. Also ich muss sagen, ich finde, die Acceleration ist sehr krass derzeit und-

145. 31:29 – 31:40 🗣 Jona

     Und auch, dass es Modelle gibt, die sinnvolle Outputs auf, ähm, Endgeräten liefern können. Das ist ja wahrscheinlich auch einer der größten Game Changer.

146. 31:40 – 31:47 🗣 Wieland

     Ja, was ich aber auch halt insofern sehr gut finde, dass es halt so für mich als Programmierer war jetzt so dieser Monat eigentlich eher wirklich so ein Träumchen.

147. 31:48 – 31:48 🗣 Jona

     Ja.

148. 31:48 – 32:17 🗣 Wieland

     Weil ich mir denke, so, ich find das halt gut, nicht ein ganzes Sprachmodell mit mir rumschleppen zu müssen, was quasi viele Sachen oder alle Sachen kann. Wenn ich aber eigentlich sage, eigentlich will ich nur ein Sprachmodell, was Hassrede erkennen kann, weil eigentlich ist das, eigentlich ist das mein Ding. Und es macht jetzt keinen Sinn, dass der Nutzer jetzt vier Komma fünf Gigabyte Sprachmodell auf sein Handy runterlädt und dann halt dort laufen hat, nur damit es halt diese eine spezifische Sache machen kann.

149. 32:17 – 32:17 🗣 Jona

     Ja.

150. 32:17 – 33:03 🗣 Wieland

     So, deswegen ist das mega cool. Und auch mit Jeff, wie gesagt, ich bin, ich bin gespannt, äh, was da noch so alles geht. Ich habe auch so ein paar eigene Dinge in Planung, was man damit machen kann. Aber ein Beispiel dafür, wie krass das alles ist mit dem, ähm, KIs go wirklich all out um ihre Aufgabe zu erfüllen, ist: Ich habe ChatGPT und halt versehentlich im Work Modus auf der Webseite, nicht in Codex, auf der Webseite, aber im Work Modus versehentlich gefragt: "Hey ChatGPT, in Minecraft mit den Prüfungsspawnern, könnte ich irgendwas machen in einem Datenpaket oder so, um die zu triggern, auch wenn die 'nen Spieler nicht sehen können?"

151. 33:04 – 33:04 🗣 Jona

     Mhm.

152. 33:04 – 33:13 🗣 Wieland

     Ähm, und ich hab halt gedacht, ja, Chatty guckt jetzt ins Internet und sucht jetzt auf Reddit und liest jetzt die Minecraft Wiki-Seiten.

153. 33:13 – 33:14 🗣 Jona

     [lacht] Ja.

154. 33:14 – 33:17 🗣 Wieland

     Weißt du, was er gemacht hat, um meine Frage zu beantworten?

155. 33:17 – 33:18 🗣 Jona

     Nein.

156. 33:18 – 33:32 🗣 Wieland

     Er hat sich Minecraft runtergeladen, die Entwicklungsversion, die ja nicht mehr obfuscated sind und hat im Code nachgeschaut, wie der Prüfungsspawner funktioniert. Weil das Wiki, das Wiki könnte ja ungenau sein.

157. 33:33 – 33:34 🗣 Wieland

     Ja, LOL. [lacht]

158. 33:34 – 33:39 🗣 Wieland

     So, und dann sagt er: "Ja, ja, ich hab jetzt nachgeschaut. So und so ist das. Mit Sicherheit."

159. 33:39 – 33:42 🗣 Jona

     Und mit Sicherheit ist halt literally, ja, steht halt so im Code.

160. 33:42 – 33:43 🗣 Wieland

     Ja, genau.

161. 33:43 – 33:43 🗣 Jona

     Viel Spaß, ja.

162. 33:44 – 33:46 🗣 Wieland

     Also, das, das ist, das ist richtig wild.

163. 33:46 – 33:46 🗣 Jona

     Ja.

164. 33:46 – 33:55 🗣 Wieland

     Also wirklich, wir alle underutilizen KI. Mittlerweile sogar ich. Sogar ich schöpfe das Potenzial, was mittlerweile da ist, nicht richtig aus.

165. 33:55 – 33:55 🗣 Jona

     Ja.

166. 33:55 – 34:34 🗣 Wieland

     Ja, also, aber ich finde quasi, die Acceleration ist jetzt mittlerweile sehr spürbar. Alleine schon daran, wie viele und wie, mit welcher erhöhten Kadenz jetzt neue KI-Modelle rauskommen. Also, so, wir hatten normalerweise hatten wir immer so drei, vier Monate zwischen den Major Modellen und jetzt gefühlt, also mittlerweile kenne ich YouTuber, die machen jeden Tag ein Video, wo sie die neuesten Entwicklungen bezüglich KI-Modellen zusammenfassen. Natürlich, da ist auch viel Rumors und so dabei, aber im Endeffekt jede Woche kommen zwei bis drei neue KI-Modelle, Frontier KI-Modelle raus.

167. 34:34 – 34:34 🗣 Jona

     Mhm.

168. 34:34 – 34:41 🗣 Wieland

     Und wie gesagt, ich bin, es fühlt sich an, als ob wir der Singularität sehr nahe sind, wo ich gespannt bin, wo das noch hinkommt.

169. 34:42 – 35:42 🗣 Jona

     Ich habe noch zwei klitzekleine Überwachungsthemen, die am Ende auch wieder an vergangene Crunch-Time-Themen anknüpfen. Es geht nämlich einmal um die Waymo Robo Taxis, die jetzt tatsächlich auch angefangen haben, dann jetzt, ich sag mal, kriminelle Inhalte oder Gegenstände, die eben in ihren Robo Taxis passieren, dann jetzt tatsächlich auch an die Polizei entsprechend weitermelden. Also da wurden jetzt schon zwei Teenager in Amerika verhaftet, die eben halt da so mit der Waffe da drin hantiert hatten. Und ja, das hat dann natürlich jetzt auch wieder so ein bisschen die, die Kontroverse mit, okay, was wird denn jetzt nun genau überwacht und wie wird das jetzt nun genau verarbeitet, jetzt natürlich wieder etwas aufleben lassen und darüber hatten wir auch schon mal bei den selbstfahrenden Teslas ja auch schon gesprochen, was da eigentlich die Kameras, nicht nur die Innenkameras natürlich, sondern auch die Kameras nach außen prinzipiell immer aufnehmen können und was da

170. 35:43 – 36:38 🗣 Jona

     alles mit dabei ist. Da gab es ja auch vor einigen Monaten ja auch die Problematik mit den Meta Smart Glasses, wo das ja sage ich mal, auch verhältnismäßig ungefiltert an Meta Mitarbeiter dann ging und dann man dann halt auch wirklich da explizite Inhalte und private Momente da auch der entsprechenden Käufer sehen konnte. Das ist aber schon ein paar Monate her, vielleicht sogar ein halbes Jahr schon. Und genau zu diesem Smart Glasses Thema, da hatten wir auch schon mal, ich sag mal, über diese Watch Dogs ähnliche Personenannotation, nenne ich das jetzt mal, gesprochen und so etwas gibt es jetzt auch auf Facebook, also Meta, wie auch immer man es jetzt nennen möchte. Und da gibt es, sage ich mal, gab es, sage ich mal, auch eine, eine Kontroverse, wo es annotierte Daten zu Posts gab, wo auch private Daten der entsprechenden Person mit veröff-

171. 36:38 – 36:54 🗣 Jona

     Licht wurden. Da gab es halt so konkret von Meta AI dann eben eine Frage: "Oh, kennen Sie dieses Kind, was auf der rechten Seite ist?" Das hast du bestimmt auch gesehen, den, den Post oder die Berichterstattung darüber, wo du dann eben das,

172. 36:55 – 37:19 🗣 Jona

     wo du eben das Akkordeon ausklappen konntest und da legit persönliche Informationen der Mutter und ich glaube, ihrer und ihres Kindes dann eben mit da draufstand, also mit vergangene und aktuelle Wohnadresse und Namen, vor, mit, mit vollem Namen, Vor- und Zuname des Kindes et cetera. Da hat Meta auch ein bisschen was auf den Deckel bekommen dafür.

173. 37:19 – 37:22 🗣 Wieland

     Aber kannst du mir noch mal sagen?

174. 37:22 – 37:22 🗣 Jona

     Mhm.

175. 37:22 – 37:24 🗣 Wieland

     Also ich weiß nicht, ob ich mich richtig erinnere.

176. 37:25 – 37:25 🗣 Jona

     Ja.

177. 37:25 – 37:37 🗣 Wieland

     Ich glaube halt, dass dieses, ähm, dass, dass da die Sache war, es hat eher exposed, dass ja quasi diese ganzen Infos mehr oder weniger schon zugänglich waren.

178. 37:37 – 37:37 🗣 Jona

     Richtig.

179. 37:37 – 37:38 🗣 Wieland

     wenn ich das verstanden habe-

180. 37:38 – 37:39 🗣 Jona

     Genau.

181. 37:39 – 37:49 🗣 Wieland

     -äh, hat das ja nur quasi, es hat nur funktioniert, weil Meta AI auf Sachen, die in anderen Postings von der Familie verfügbar waren.

182. 37:49 – 38:06 🗣 Jona

     Richtig. Darauf zu, dass darauf natürlich Zugriff hatte und die ausgewertet hat. Richtig, das wäre jetzt direkt das Nächste, worauf ich jetzt eingegangen wäre. Das hast du schon sehr gut zusammengefasst. Ja, dass Meta das eben erhoben hat und auch genauso in solchen Ausmaßen verarbeiten kann.

183. 38:06 – 38:19 🗣 Wieland

     Aber nee, ich meinte jetzt quasi, dass es prinzipiell Infos sind, die quasi jeder Mensch, der sich einfach nur die Postings dieses Accounts anguckt, auch, sage ich mal, rekonstruieren könnte.

184. 38:19 – 38:20 🗣 Jona

     Das heißt es ja nicht unbedingt.

185. 38:21 – 38:21 🗣 Wieland

     Okay.

186. 38:21 – 39:10 🗣 Jona

     Weil Meta kann, sammelt ja auch selbst extrem viele Daten, was natürlich, natürlich auch deren Businessmodell ist. Und da gibt es ja auch genügend Sachen, die du nicht mit erfassen kannst. Also natürlich, aus den Bildern und den Posts und auch den, den Zeitstempeln und den Beschreibungen kannst du natürlich am allerallermeisten rausziehen. Das ist ja klar. Und eine andere Person könnte da auch sehr, sehr viel aus deinem Leben heraus schlussfolgern. Aber du wirst das halt nicht zu, ich sag mal, zu diesem Confidence Level machen können, wie Meta das eben hat, wenn sie dann eben auch noch deine ganzen, deine ganze Location History hat et cetera. Aber ja, du könntest, also du hast recht, als Außenstehender könntest du auch schon extrem viele Daten daraus schließen. Aber das ist ja, glaube ich, das, das sollte eventuell jedem, der auf Social Media unterwegs ist, bewusst sein, aber das ist es definitiv nicht.

187. 39:10 – 39:34 🗣 Wieland

     Und ich finde aber, dass das mal wieder halt ein Beispiel ist, deswegen wollte ich sichergehen, dass es wirklich ein Beispiel dafür ist, für dieses like irgendwas kriegt eins auf den Deckel oder wird kontrovers diskutiert, weil es einfach nur Daten, die die ganze Zeit schon verfügbar waren, auf eine Weise aufbereitet, sodass jetzt die Menschen merken: Oh, diese Daten sind ja verfügbar.

188. 39:34 – 39:38 🗣 Jona

     Ja, wo es jetzt halt ein, ein, legi, zu einem legitimen Problem wird.

189. 39:38 – 39:39 🗣 Wieland

     Ja.

190. 39:39 – 39:48 🗣 Jona

     Und nicht: Ah, na ja, okay, meine Daten werden, werden da missbraucht. Sollte man da vielleicht einfach dazu sagen: "Ah, na gut, da kann man ja viel..."

191. 39:49 – 39:52 🗣 Jona

     Dass man dann, sage ich mal, nicht mehr darüber hinwegsehen kann.

192. 39:52 – 39:52 🗣 Wieland

     Ja.

193. 39:52 – 40:03 🗣 Jona

     Dass man am Anfang einfach nur ignorant war und sich, und das einfach so akzeptiert, ähm, hat oder hingenommen hat. Und ja, na gut, aber müssen wir jetzt nun wirklich was gegen Meta oder Google tun?

194. 40:03 – 40:04 🗣 Wieland

     Mhm.

195. 40:04 – 40:17 🗣 Jona

     Na ja, muss ja nicht unbedingt sein. Am Ende nutze ich das ja auch sehr viel und du dann eben am Ende für dich nur Ausreden findest. Du, du verstehst? Und dann, wenn es jetzt natürlich zum, zum realen Problem wird, ja, dann wird sich natürlich viel darüber echauffiert.

196. 40:18 – 40:19 🗣 Wieland

     Wie gesagt, also wenn du mir jetzt sagst, dass das-

197. 40:19 – 40:21 🗣 Jona

     Aber dann ist es halt wie gesagt schon zu spät.

198. 40:21 – 40:22 🗣 Wieland

     Ja klar, aber-

199. 40:22 – 40:28 🗣 Jona

     Der, der, der Point ist ja, dass sie es ja erfassen und verarbeiten und nicht, wie sie es jetzt ausgegeben haben.

200. 40:28 – 40:40 🗣 Wieland

     Ne, genau. Aber das Ding ist, also wenn du mir jetzt sagst, dass das trotzdem, dass in diesem Fall Meta AI quasi mit internen Daten gearbeitet hat, also Sachen, die jetzt nicht einfach nur aus den öffentlichen Posts verfügbar waren-

201. 40:40 – 40:40 🗣 Jona

     Ja.

202. 40:40 – 40:46 🗣 Wieland

     -sondern quasi das Meta-Modell, das natürlich im Backend ist, hat ja intern Zugriff auf alles.

203. 40:46 – 40:46 🗣 Jona

     Ja.

204. 40:46 – 41:00 🗣 Wieland

     Ich hätte-- Und sie haben's quasi vielleicht aus guten Gründen, also aus, aus, vielleicht hatten sie eine Idee, aber sie haben's schein-, aus Ignoranz quasi so eingestellt, dass die öffentliche Meta AI, die du Sachen zu den Postings von einer Person fragen kannst-

205. 41:00 – 41:00 🗣 Jona

     Richtig.

206. 41:01 – 41:10 🗣 Wieland

     -dir, dir liegt dabei der Kontext aller Daten vor, die Meta über diese Person hat. Nicht nur die Daten, die man auch öffentlich auf dem Profil sehen könnte.

207. 41:11 – 41:24 🗣 Jona

     Ja, soweit ich weiß, ist das der Fall. Also sicherlich wird das eingeschränkt sein, dass es vielleicht nicht alles, alles ist, sage ich mal, also nicht hundert Prozent. Aber definitiv ist da auch, ist da auch Zugriff auf nicht öffentliche Daten mit dabei.

208. 41:24 – 41:44 🗣 Wieland

     Genau, weil was Ähnliches, was, was diesen Monat passiert ist, was mich daran extrem erinnert hat und mich auch zurückerinnert hat an mein ganzes, ne, auch mit OpenStreetMap ist das ja ab und zu so 'ne Kontroverse, was da immer gerne diskutiert wird. Ich weiß nicht, ob du von diesem ganzen, ob du von dem Projekt God's Eye View gehört hast.

209. 41:44 – 41:45 🗣 Jona

     Nein, noch nicht.

210. 41:45 – 41:58 🗣 Wieland

     Also ein Entwickler hat einfach nur in Anführungszeichen eine, ein Programm rausgebracht oder mehr oder weniger eine sehr cool aussehende, am Ende eine Kartenanwendung hat er rausgebracht-

211. 41:58 – 41:58 🗣 Jona

     Ja.

212. 41:58 – 42:14 🗣 Wieland

     -wo er einfach nur massive Mengen an öffentlichen APIs über Dinge in der realen Welt quasi an einem Ort vereint. Halt zum Beispiel Flugradar, öffentlich verfügbare CCTV Cameras.

213. 42:14 – 42:14 🗣 Jona

     Ja.

214. 42:15 – 42:38 🗣 Wieland

     Öffentlich verfügbare Routen von Militärsachen, äh, und alles Mögliche, was man halt so öffentlich einsehen kann. Und da war auch, sage ich mal, eine-- Und man hatte ein bisschen gemerkt, dass er auch so ein bisschen resigniert hat, weil am Anfang hat er das noch so versucht irgendwie zu erklären, weil da war ganz, ganz oft kam da so die Frage so: "Ja, aber hä, hä, ne, darfst du das denn?"

215. 42:39 – 42:41 🗣 Wieland

     So, ist das denn erlaubt? So,

216. 42:42 – 42:58 🗣 Wieland

     w-wieso so und auch so: „Boah, krass, dieser Typ schafft, was all unsere Geheimdienste nicht schaffen." So, also weil quasi so, egal wie oft er das gesagt hat, Leute haben nicht gecheckt, das ist einfach nur ein Visualisierungstool für Daten, die es schon immer öffentlich gibt.

217. 42:59 – 42:59 🗣 Jona

     Ja.

218. 42:59 – 43:30 🗣 Wieland

     Und das haben die Leute nicht gecheckt und du hast-- und du merkst irgendwie, und ich meine, ich verstehe das auch, weil das lässt ihn natürlich cooler wirken. Irgendwann hat er dann wirklich, sage ich mal, ist er dann halt, hat er aufgegeben, hat sich darauf eingelassen, weil ich wei-- er hat in einem Interview hat er halt gesagt: „Ja, also ganz wichtig ist, ich habe die Linie gezogen bei: Mit meinem Tool kann man keine Menschen tracken. Das hab ich mich entschieden, so einzubauen, dass ich da die Grenze ziehe." Und ich denke mir nur so: „Du hast da keine Linie gezogen. Es gibt halt keine öffentliche API, wo du Daten von Menschen abrufen kannst."

219. 43:31 – 43:33 🗣 Wieland

     Ja. [lacht]

220. 43:33 – 43:37 🗣 Wieland

     So, weiß ich nicht, was das jetzt sollte, aber so ich finde, das ist halt, das ist halt mal wieder so 'n Ding-

221. 43:38 – 43:38 🗣 Jona

     Ja.

222. 43:38 – 43:55 🗣 Wieland

     -wo quasi halt so jetzt diese ganzen KI-Themen so 'n bisschen exposen, ähnlich wie das ja David Grisel schon vor Ewigkeiten mit dem Spiegel gemacht hat, wo es dann hieß so: „Ja, ne, du kannst unter Umständen vielleicht sogar rausfinden, wer mit wem was hat in der Redaktion."

223. 43:56 – 43:56 🗣 Jona

     Ja.

224. 43:56 – 44:06 🗣 Wieland

     So, dann sagt er so: „Hä? D-darfst du denn das? Hast du die gehackt oder woher weißt du das?" Und er so: „Nein, das kann ich aus den öffentlich verfügbaren Daten ablesen."

225. 44:07 – 44:07 🗣 Jona

     Ja.

226. 44:07 – 44:07 🗣 Wieland

     So.

227. 44:08 – 45:28 🗣 Jona

     Nee, das ist halt, ja, aber das, das muss halt einem, an-anscheinend sagt das halt einem niemand, dass ja, das ist ja an si-an sich ja auch, wenn man jetzt ja auch gerade schon über die, die Geheimdienstarbeit gesprochen hat, dass es ja auch eigentlich zum größten Teil, also so neunzig, fünfundneunzig Prozent eigentlich auch eine Art Datenverarbeitung ist, eben die auf typischen quelloffenen, sag ich mal, ähm, Daten basiert, wo du halt einfach sagst: „Ja, okay, du kannst einfach selbst Dinge, ähm, en-entweder kaufen, entweder direkt kaufen oder öffentliche Daten einfach nur für dich weiterverarbeiten." Und das ist halt am Ende der größte Teil, sag ich mal, der Arbeit und du hast am Ende natürlich trotzdem noch zehn Prozent spicy Shenanigans, sag ich mal, aber die bleiben dann halt auch die Geheimdienstarbeit und Leute stellen sich halt vor, dass die zehn Prozent halt eher die neunzig Prozent ausmachen und nicht andersherum. Und das ist halt ein bisschen unverhältnismäßig. Ja, sehr gut, aber das hab ich mir direkt mal notiert und schau mir das auch mal an, was man damit alles machen kann. Ich weiß ja nicht, ob, was, w-welche APIs es da jetzt noch so gibt, die man da jetzt so mit einbinden könnte, außer jetzt eben Öffis, ähm, Flüge, Schiffe anscheinend, Karten natürlich. Weiß ich gar nicht, gibt es in Chemnitz öffentlich verfügbare Kameras und wie viele sind das dann?

228. 45:28 – 45:29 🗣 Wieland

     Nee, nee, nee. Also soweit ich-

229. 45:29 – 45:29 🗣 Jona

     Das ist ja schon-

230. 45:29 – 45:45 🗣 Wieland

     -soweit ich weiß zumindest nicht. Aber wie gesagt, du kannst halt sehr, sehr viel implizit ableiten. Zum Beispiel, ja, wie wir es ja auch schon bei Transitions hatten, aus alleine aus den Echtzeitdaten der Öffis kannst du ja theoretisch ableiten, wo ein Bus jetzt im Moment ist.

231. 45:46 – 45:46 🗣 Jona

     Ja.

232. 45:46 – 45:47 🗣 Wieland

     So zum Beispiel.

233. 45:47 – 45:51 🗣 Jona

     Und somit kann man Personen wie den Busfahrer indeed tracken.

234. 45:51 – 45:51 🗣 Wieland

     Ja.

235. 45:52 – 45:53 🗣 Jona

     Auf eine gewisse Weise, ja.

236. 45:53 – 45:58 🗣 Wieland

     Oder halt, du kannst ja auch aus, aus Verspätungen, die so theoretisch aus dem Nichts entstehen-

237. 45:59 – 45:59 🗣 Jona

     Ja.

238. 45:59 – 46:02 🗣 Wieland

     -auch so 'n bisschen vielleicht ablesen, wo gerade Stau ist.

239. 46:02 – 46:02 🗣 Jona

     Ja.

240. 46:02 – 46:04 🗣 Wieland

     Nur aus den Daten der Öffis.

241. 46:04 – 46:04 🗣 Jona

     Ja.

242. 46:04 – 46:27 🗣 Wieland

     Und das ist halt, ja, na also zum Beispiel, ja, auch so was wie, also was ich auch nicht wusste, Beispiel irgendwie veröffentlicht auch die, äh, es gibt zum Beispiel auch live, das ist eher so für Amerika relevant. Es gibt Live-Daten für die ganze Welt über Waldbrände, die du einbinden kannst. Es gibt Live-Daten, also es passieren jeden Tag übelst viele Erdbeben, nur die sind halt meistens schwach und von denen hören wir nichts.

243. 46:27 – 46:27 🗣 Jona

     Ja.

244. 46:27 – 46:30 🗣 Wieland

     Aber da gibt's halt auch Live-Feeds, die du alle einbinden kannst. So.

245. 46:30 – 46:30 🗣 Jona

     Ui.

246. 46:31 – 46:34 🗣 Wieland

     Es gibt auch Live-Daten darüber, welche Satelliten wo lang fliegen.

247. 46:34 – 46:35 🗣 Wieland

     Stimmt,

248. 46:35 – 46:39 🗣 Wieland

     Die öffentlich verfügbar sind. Und ja, also das geht alles.

249. 46:40 – 47:32 🗣 Jona

     Ach, Wieland, die Folge neigt sich langsam wieder dem Ende. Wir haben ja sehr, sehr viel und intensiv über KI gesprochen, ähm, weil sich da ja einfach nur, wie wir schon sagten, einfach die Entwicklungen so extrem überschlagen haben und das am Ende die meisten anderen Themen komplett überschattet. So hat sich das jetzt auch ein bisschen bei der Crunch Time herausgezeichnet. Genau, das war jetzt die vierundachzigste Folge der Crunch Time. Das ist ein Technik-Podcast, wo wir eben um alle IT-Themen sprechen und ab und zu auch mal die Neuigkeiten vom TU Campus und was bei uns sich so im persönlichen Leben und in der persönlichen Technikumgebung, sag ich mal, weiterentwickelt. Wieland, wenn man denn zur aktuellen Folge etwas zu spät eingeschalten hat, wo kann man die denn jetzt noch mal nachhören?

250. 47:32 – 48:00 🗣 Wieland

     Crunch Time-Folgen kann man nachhören überall dort, wo man so Podcasts bekommt, also natürlich auf Spotify, auf YouTube, auf Apple Music und es gibt aber natürlich auch einen RSS-Feed, den man unter podcast.radio-unique.de abrufen kann und auch auf unserer Webseite radio-unique.de findet man immer einen Artikel mit, äh, der Folge und den Show Notes, sodass man da unseren ganzen Katalog noch mal nachhören kann, wenn man möchte.

251. 48:01 – 48:05 🗣 Jona

     Sehr gut. Und wann läuft denn unsere nächste Folge der Crunch Time?

252. 48:05 – 48:08 🗣 Wieland

     Also da die ja immer am vierten Sonntag im Monat kommt-

253. 48:09 – 48:09 🗣 Jona

     Richtig.

254. 48:09 – 48:23 🗣 Wieland

     -um achtzehn Uhr, ist das auch natürlich bei unserer nächsten Folge so. Und das ist in diesem Fall der 25. Oktober 2026. Wenn ihr da um achtzehn Uhr einschaltet, hört ihr die fünfundachtzigste Folge der Crunch Time.

255. 48:23 – 48:25 🗣 Jona

     Ich hoffe, wir hören uns dann wieder. Macht's gut.

256. 48:26 – 48:26 🗣 Wieland

     Tschau.

257. 48:33 – 48:33 🗣 Wieland

     [outro jingle]

258. 48:33 – 48:39 🗣 Wieland

     Das war die Crunch Time, eine Produktion von Radio Unique.

Zuletzt aktualisiert am 1

1. 00:00 – 00:07 🗣 Wieland

   Radio Unique presents [background music] Crunch Time.

2. 00:10 – 00:12 🗣 Wieland

   With Jona and Wieland.

3. 00:13 – 00:24 🗣 Wieland

   Hello, dear listeners out there, and a heartfelt welcome to the eighty-fourth episode of Crunch Time, our seven-year anniversary. For seven years now, I, Wieland—

4. 00:24 – 00:25 🗣 Jona

   And I, Jona—

5. 00:25 – 00:44 🗣 Wieland

   have been bringing you, on every fourth Sunday of the month, the latest from the world of technology and sometimes from TU Campus and our personal tech projects. We've prepared another hour for you, full of, let's say, news and their context from the tech world. Jona, please tell us.

6. 00:45 – 01:10 🗣 Jona

   We need to really picture for ourselves just how much has actually changed in the tech world over the last seven years. You know, I mean, I only really noticed that today myself. Wait a minute—there's basically at least one piece of news every week about, okay, big company XY in America got hacked with this AI-supported exploit.

7. 01:10 – 01:10 🗣 Wieland

   Mhm.

8. 01:10 – 03:45 🗣 Jona

   And in that case, it then had extreme consequences. Oh, customer data was involved, or certain HR data was involved, some secret codebases—where, I'd say, the scale is actually just really extreme. And now it's simply normalized that about once a week such big news comes out, like, oh, Meta was hacked in this way and of course they fixed it in no time. And, and before we go into any specific details, I just wanted to mention how hard it simply is to keep up with it. Not for us, though. In the end, it's more or less irrelevant for us, except that we're personally interested in how something came about—but rather all the processes connected to it. That companies now have to put so much extreme energy into always keeping up, rolling out certain fixes for certain systems within a few hours, let alone any bureaucratic processes. Because if that happened at a German company, then of course it would be: Oh, step one, you'd first have to look for your, let's say, [laughs] security protocol, your checklist for what you do in this case. And ideally you already have one, let's put it that way. Then of course your data protection officer has to be informed. They then of course also have to inform the data protection authority, and it—in the end it first handles the information sharing directly anyway. So they also decide how severe it is, and in a worst-case scenario they would also handle communication with the affected employees, if it's about HR data, for example, and inform them, not the company itself, as far as I know. Whereas you as a company just have to fight the whole time and think: Okay, let me now, uh, what—what is it actually caused by? Wh-which version can we maybe roll back, from which systems can we roll back? And of course you have to replace all keys immediately—all SSH keys, any other log-on keys, passwords, everything possible has to be replaced right away. And that's just a lot compared to how easy it is now to spend, say, less than three thousand US dollars, as in the upcoming example, to simply hack a series of large, well-known companies.

9. 03:45 – 03:45 🗣 Wieland

   Mhm.

10. 03:46 – 04:00 🗣 Jona

    And of course that was with money that had been put into tokens at Claude. The publication of the, um, the, the following security issue began directly with the XKCD comic or comic panel.

11. 04:01 – 04:01 🗣 Wieland

    Yes

12. 04:01 – 06:37 🗣 Jona

    Namely that the internet and most software are then only held together a bit by one, by one random—by a random person from Nebraska, who back in 2006 somewhere once just pulled off a random, um, project. And precisely that legitimately became a vulnerability in the end. Well, whatever you want to call it, a security researcher by the name of Sirius, who just did a bit at OpenAI—no, they didn't clean up. In the end they only published a pull request in the internal Git to draw a bit of attention to it. In the end they actually hacked the, um, the Discourse forum, which OpenAI, um, hosts. And it also has to process images somehow, because it's a forum. And there's an ancient C library, um, Lib H-E-I-F, however you pronounce it, for a typical image and video format, um, maybe you know it. And there's simply a heap overflow that can be, um, triggered in it. So you can upload an image file in the forum that has been manipulated. That means you're actually instructing this codec to overlay two images and use different blend modes et cetera—you've probably seen that in an image editor. And there you can also specify an offset, meaning how far the image you're overlaying should be shifted left, right, up, and down. And of course you can also enter negative numbers, so that, say, you push the overlaid image to the left, for example, out of the image boundary if you enter a negative X coordinate. That is also legitimately accepted by the system, but during further pro- But during further processing, somewhere in the end there's a cast, as you know it from C, from signed integer to unsigned integer. And that means a small negative number, maybe minus fifty, by which you want to shift an image, quickly becomes the familiar four point two billion if you make it an unsigned integer in the end and then the library tries to write to a location in memory that, in principle, doesn't belong to it at all. And of course there are systems that prevent that, but they could also be bypassed, so that you then actually have remote code execution.

13. 06:37 – 08:24 🗣 Jona

    And with this remote code execution on OpenAI's servers, they could then continue and say: 'Come on, now let's keep using, just like now, Claude 4.8, Claude Opus 4.8, I should say correctly, and look for a bug in the login system.' And they actually searched for a long time, but actually found nothing. And a few hours later [laughs] Claude Opus 5 came out, and with that it was done in, I don't know, two or three hours, so that a vulnerability could also be found in OpenAI's single sign-on, so that in the end there were several, I'd say extremely many parts that you then chained together, giving you complete access, because it was about the email addresses of OpenAI employees also being compromised, and thus you had access to everything. Slack was among them, the internal Git, and also other systems they use, employee data, all sorts of things. And then the, let's say, security researcher slash hacker, whatever, said: 'Yeah, okay, come on, I'll just make a pull request now. Here, take a look at what's there,' that kind of thing. But he actually only got six and a half thousand US dollars as a bug bounty for it, which is actually relatively little for something like that. And that was because they only gave it to him for the, uh, single sign-on bug, because as a company you can't always pay bug bounties for software projects that you merely also use.

14. 08:24 – 08:24 🗣 Wieland

    Yes

15. 08:24 – 09:59 🗣 Jona

    That doesn't work, because wh-where do you end up if every company that uses a library then has to leave several million in total directly for the security researcher? That would also be kind of nonsense. That's why it was of course out of scope. It was also very big news. I just wanted to have it spelled out a bit for you. That often helps with understanding such complex, um, chains. Right, and that was just an example of the, of the current situation, that it'll be a bit difficult to manage all of this in the world. And you also often read about such sandbox escapes. We've talked about that before during Crunch Time. But in fact, for the most part, only those are somewhat prevented. If you look now, oh, okay, um, Claude Opus 5.5 came out with additional, um, security restrictions. But in principle that only refers to the sandbox escape and not to how competently the model can act. That's of course completely separate, and in the end you anyway just have the, the cat-and-mouse game between—yeah, but you also have to, you somehow have to be able to detect AI security vulnerabilities, whether you're the good guy or the bad guy. If you work internally in a company and you yourself legitimately look for security vulnerabilities, and the person outside who also looks for security vulnerabilities at your company. And somehow you can't have different tools for that.

16. 09:59 – 10:00 🗣 Wieland

    Yes

17. 10:00 – 10:31 🗣 Jona

    That, that doesn't work, but yeah, it's definitely going to be exciting. And of course this was just one of hundreds, just one example to illustrate it here. And yeah, brand-new information also came out two days ago, but maybe we should first wait and first see until the information situation around it calms down a bit and we can really report something about it. But I don't believe that this, this wave of security vulnerabilities is going to stop.

18. 10:32 – 10:56 🗣 Wieland

    Ja, Jona, für mich war so ein bisschen der letzte Monat auch geprägt von, sage ich mal, eher kleineren KI-Modellen beziehungsweise Modellen, die jetzt nicht so, sage ich mal, extrem krass auf dem Frontier sind, sondern ja vielleicht ein bisschen zurückgestellt sind, aber dennoch sehr cool sind. So die erste Sache, die, über die irgendwie gefühlt alle geredet haben,

19. 10:57 – 11:34 🗣 Wieland

    wo ich zuerst dachte, oh, das ist ein Nischenthema, was niemand interessieren wird und dann haben aber plötzlich alle drüber geredet, ist Jeff, aber J-E-V geschrieben, nicht, äh, nicht der Jeff aus der Treff Punkt achtzehn DE Werbung. Ähm, genau, also Jeff ist ein KI-Modell, was rausgekommen ist, ähm, was proprietär ist, aber da wurde eine interessante Technik benutzt, ähm, durch die dieses KI-Modell keinen Text ausgibt, sondern es kann einfach nur aus von dir bereits übergebenen Optionen wählen. Und das macht es aber sehr schnell und sehr billig.

20. 11:34 – 11:34 🗣 Jona

    Ja.

21. 11:34 – 12:13 🗣 Wieland

    Dadurch, dass alle Entscheidungen, also die Entscheidungen müssen alle unabhängig voneinander sein, aber es können halt quasi beliebig viele sein. Also ich glaube, technisch ist es auf zweihundertsechsundfünfzig beschränkt, aber es können halt viele Entscheidungen gleichzeitig sein, viele Fragen, die du stellen kannst zu deinem Input, zu deinem Zustand und, äh, die Antworten werden alle parallel generiert. Deswegen es extrem schnell geht und auf der anderen Seite ist es extrem billig. Also während wir ja bei anderen KI-Modellen immer so von, was weiß ich, zehn Dollar pro Million Tokens Input, fünfzig Dollar pro Million Tokens Output sprechen, sprechen wir hier von vier Komma zwei Cent pro Million Tokens Input und die Output Tokens

22. 12:13 – 12:14 🗣 Wieland

    Sind umsonst.

23. 12:14 – 12:14 🗣 Jona

    Ja.

24. 12:14 – 12:19 🗣 Wieland

    Weil sie halt zu miniskul sind, um gemessen zu werden.

25. 12:19 – 12:29 🗣 Jona

    Das ist natürlich extrem geil und das ist ja am Ende nur eine, natürlich am Ende eine riesige Einschränkung, weil man sich das ja so vorstellen kann, als hätte man einfach ein striktes Ausgabeschema-

26. 12:29 – 12:30 🗣 Wieland

    Ja.

27. 12:30 – 12:37 🗣 Jona

    -als JSON-Schema mit übergeben und das ist am Ende ein großes Klassifizierungsproblem- -aus dem Machine Learning, wie man es halt kennt.

28. 12:38 – 12:50 🗣 Wieland

    Ja. Und das fand ich auch so interessant, weil also, ähm, zum einen, sie haben sich so 'n bisschen in Nesseln gesetzt, weil sie in ihrem Werbematerial gesagt haben: "Oh, das Modell kann nicht halluzinieren." So.

29. 12:50 – 12:52 🗣 Wieland

    Na ja. [lacht]

30. 12:52 – 12:55 🗣 Wieland

    ja. Also, was sie damit meinten, ist, es kann halt nicht von dem Schema abweichen-

31. 12:56 – 12:56 🗣 Jona

    Ja.

32. 12:56 – 13:12 🗣 Wieland

    -was du gibst. Und da ist mir aufgefallen, sehr viele Leute scheinen Structured Outputs nicht zu kennen, weil das so 'n bisschen, so viele Kommentatoren haben auch das schon als revolutionär angepriesen, während das ja etwas ist, was es wirklich schon seit längerem gibt, dieses-

33. 13:12 – 13:12 🗣 Jona

    Ja.

34. 13:12 – 13:15 🗣 Wieland

    -ein bestimmtes JSON-Schema als Output erzwingen können.

35. 13:15 – 13:18 🗣 Jona

    Das geht ja doch schon bei extrem alten Modellen-

36. 13:18 – 13:18 🗣 Wieland

    Ja.

37. 13:18 – 13:26 🗣 Jona

    -die jetzt für, wo man jetzt heutzutage sagt, na ja, das ist doch jetzt hier noch [lacht] Steinzeittechnologie- -sagen wir mal, da geht das auch schon.

38. 13:26 – 13:30 🗣 Wieland

    Ja. Aber das fand ich, ähm, sehr, sehr interessant.

39. 13:30 – 13:30 🗣 Jona

    Ja.

40. 13:30 – 13:50 🗣 Wieland

    Und, äh, das ist aber halt sehr, sehr cool, weil ich denke, es gibt viele Anwendungsfälle, wo du quasi nur so 'ne Entscheidung hast. Und das ist auch eigentlich das, was so man als Programmierer auch am ehesten so von KI erwartet. Dass es einfach ein KI-gestütztes If-Statement oder ein KI-gestütztes Switch-Statement ist.

41. 13:50 – 13:50 🗣 Jona

    Ja.

42. 13:50 – 14:16 🗣 Wieland

    Und es ist halt so billig und geht so schnell, dass du da halt wirklich, ja, viel große Datenmengen mit verarbeiten kannst, ohne dass du's überhaupt wirklich merkst in deinem Workflow. So. Es war so schnell, dass sie das Modell zum Beispiel testweise haben Doom spielen lassen. Einfach nur, weil quasi dieser, der Input und der Output, muss man aber sagen, es war quasi, das Modell bekam den Zustand schon als Text gegeben, weil es kann wirklich nur Text lesen, das Modell.

43. 14:16 – 14:16 🗣 Jona

    Mhm.

44. 14:16 – 14:32 🗣 Wieland

    Also hat jetzt nicht Doom angeguckt, aber es hat immer nur den Zustand bekommen und dann halt wirklich innerhalb von fünfzig Millisekunden bekommt es die Antwort, wo quasi auf die Frage: Sollte man jetzt diesen Knopf drücken? Sollte man jetzt diesen Knopf drücken? Sollte man diesen Knopf drücken? Die immer quasi beantwortet werden, die Fragen.

45. 14:33 – 14:33 🗣 Jona

    Ja.

46. 14:33 – 15:32 🗣 Wieland

    Das ist schon ziemlich, ziemlich cool. Und das andere, was ich halt diesen Monat auch noch extrem interessant fand, was relativ unter dem Radar geflogen ist, waren die Modell-Releases von Desert Ant Labs. Das ist eine, es ist eine KI-Firma aus Europa und die haben eine Reihe von, also eine, mit einer Reihe meine ich wirklich 'ne Menge, spezialisierter kleiner Modelle entwickelt, die dafür da sind, auf Telefonen zu laufen. Und sie sind wirklich immer speziell darauf trainiert, eine bestimmte Sache zu machen. Da gebe ich dir einfach nur so mal so 'n paar Beispiele. Also beziehungsweise ich lese dir einfach vor, was es da alles, äh, gibt. Und zwar, wir haben, also die haben auch immer so, so, so wilde Namen. Da gibt's zum Beispiel der, das Modell Align, dem du tatsächlich ein Audio und ein bereits existierendes Transkript dieses Audios geben kannst und es verbessert die Wortzeitstempel in diesem-

47. 15:32 – 15:32 🗣 Jona

    Ja.

48. 15:32 – 16:40 🗣 Wieland

    -in diesem, in diesem Transkript. Dann gibt es ein Modell, das heißt Clear, was einfach nur ein Audio-Störgeräusche-unterdrücken-Ding ist. Dann gibt es das Modell Clips, das, äh, kann aus einem Transkript mit Zeitstempeln coole Momente für Clips raussuchen. Ähm, dann gibt's ein Modell, was speziell dafür da ist, einfach nur herauszufinden, welche Sprache gesprochen wird in einem Audio. Das heißt Ear. Dann gibt's eins, das heißt Emo, was einfach nur dafür da ist, aus einem Text, zu einem Text ein Emoji vorzuschlagen. Also du siehst, das sind ganz viele so ganz kleine Modelle. Die sind teilweise so eins Komma fünf Megabyte groß. So. Dann ein Modell, was, äh, äh, Tags und Themen für Beiträge erstellt. Dann auch zum Beispiel ein Modell, was dafür da ist, äh, 'ne personally identifiable information in einem Text zu finden und zu zensieren. Und da gibt es noch ein richtig wildes, wo du aus einer Linie, die du mit dem Finger zeichnest, eine perfekte Form quasi machst. Also du zeichnest eine Linie auf deinem, auf deinem Gerät- -und bekommst quasi die SVG-Koordinaten von einer quasi perfekten Linie, dieser Linie zurück.

49. 16:40 – 16:40 🗣 Jona

    Mhm.

50. 16:41 – 17:38 🗣 Wieland

    Alles solche Späße. Etwas, was Titel erstellt, etwas-- Es, es, es, es ist mega krass. Und dann gibt's natürlich auch einige, äh, Modelle, die noch in der Beta sind, beziehungsweise noch nicht öffentlich verfügbar sind. Und zwar, da, die konnte ich noch nicht testen. Da gibt's zum Beispiel eins, das heißt Eye, wo es darum geht, Bilder nach Ästhetik und Inhalt zu kategorisieren und zu ranken. Dann ein Modell, das heißt Face, was dafür da ist, Personen wiedererkennen zu können, um zum Beispiel halt in, in der Galerie auf deinem Handy halt Bilder zu clustern, nach wer darauf zu sehen ist. Dann gibt's ein Modell, das heißt Moderator. Da geht's darum, Nacktheit auf Fotos zu erkennen. Ähm, ein Modell, das heißt, äh, Schemer, wo einfach beliebiges JSON aus Text extrahiert werden kann. Ein Modell, was Hassrede erkennen kann und ein Modell, was das, äh, da, was dafür da ist, zu erkennen, wer in einem Audio oder Video wann was gesagt hat. Was zum Beispiel für Podcast-Verarbeitung sehr gut wäre. So.

51. 17:38 – 17:48 🗣 Jona

    Ich wollte nämlich gerade schon sagen, bei den ganzen Audiomodellen- -über die da gerade gesprochen hast, da hab ich mir gedacht, das ist doch eigentlich schon exakt das- -was dein Plan war oder du schon implementiert hast.

52. 17:48 – 17:48 🗣 Wieland

    Ja.

53. 17:48 – 17:53 🗣 Jona

    Und das jetzt halt einfach mal in so 'nem kleingepackten Modell mal auszuprobieren- -das klingt doch geil.

54. 17:54 – 17:54 🗣 Wieland

    The-

55. 17:54 – 17:56 🗣 Jona

    Did you find anything out about it?

56. 17:56 – 18:15 🗣 Wieland

    Um, well, listen, Jon, there was actually another-- So I can tell you, uh, I'm definitely making progress, as you might have seen on our YouTube channel, when it comes to this whole topic. Not with these models, but I'll try to incorporate those too. But a very interesting thing—

57. 18:16 – 18:33 🗣 Wieland

    What happened in the course of this, my work with these models, was something where I'm slowly saying: 'Jona, I think we've reached the tipping point regarding: there's basically nothing today's models can't do.' I mean now, like what a normal person wants to do every day.

58. 18:34 – 18:34 🗣 Jona

    Yeah.

59. 18:34 – 18:38 🗣 Wieland

    Like obviously, um, we're hearing right now that, uh, more and more

60. 18:39 – 18:43 🗣 Wieland

    century-old unsolved math problems are being solved.

61. 18:43 – 18:44 🗣 Jona

    Right, yeah.

62. 18:44 – 18:51 🗣 Wieland

    Okay, I guess. But, um, you know, the new model from OpenAI, GPT-6 Astra, has come out.

63. 18:52 – 18:52 🗣 Jona

    Yeah.

64. 18:52 – 19:25 🗣 Wieland

    And Thibault, our lord and savior, [laughs] granted a reset, so of course I could play around with it a bit, and of course I tried the things that, um, everyone else was trying too. For example, when we were at the Campus Media Days in Bamberg a few weeks ago, um, I just filmed a quick room tour of our youth hostel room and gave that room tour, just the video, to Astra, opened Blender, installed the Blender MCP, and said: 'Rebuild this room as a 3D model.'

65. 19:25 – 19:25 🗣 Jona

    Yeah.

66. 19:25 – 20:07 🗣 Wieland

    And it just did it. And it looked really good too, properly with shaders and everything, and it just looked way cooler than I had hoped. It was mega cool. And so I couldn't give it—I mean, I couldn't give it a single task that it didn't manage to do. And then I ran into the following problem: When I—so of course I then just told Codex: 'Here, write me a quick little Android app that I can use to simply test all these models—on my phone.' It did that too, but I also read that, you know, with these models, some of them aren't in the closed beta, but for now—they're actually basically always released for Android, iOS, and JavaScript. Some of these models, especially the stuff with the audio—

67. 20:08 – 20:08 🗣 Jona

    Mhm.

68. 20:08 – 20:14 🗣 Wieland

    —are only for Apple Intelligence for now. So, and that was of course annoying, because I don't have an iPhone.

69. 20:15 – 20:15 🗣 Jona

    Yeah.

70. 20:16 – 20:39 🗣 Wieland

    And then I just did a bit of research, and by that I mean I asked another ChatGPT instance: 'Yeah, these, these models from Apple, these .m model, M model C files, the ones for the Neural Engine,' it says, so, is, do they basically contain all the information so that you could play them elsewhere or convert them?

71. 20:39 – 20:39 🗣 Jona

    Mhm.

72. 20:39 – 20:51 🗣 Wieland

    And then Chatty said: 'Yeah, so in principle they should contain all the information,' and I could now also find online that some people had once tried to write a converter like that.

73. 20:51 – 20:51 🗣 Jona

    Mhm.

74. 20:51 – 21:06 🗣 Wieland

    But there's definitely nothing ready-made where you can simply just plug it in and pull it out. And then I just went to Codex, turned GPT-6 Astra up really high, and said: 'Some of these models only exist for Apple. Change that.'

75. 21:06 – 21:07 🗣 Wieland

    [laughs]

76. 21:08 – 21:08 🗣 Wieland

    And he did it.

77. 21:09 – 21:09 🗣 Jona

    Yeah.

78. 21:09 – 21:28 🗣 Wieland

    He found—invented—a way to convert these models into the ONNX format, and now, you know, I could actually try the models out on my Android phone. I just thought to myself: 'So slowly, slowly, there's simply nothing these models can't do.'

79. 21:28 – 21:28 🗣 Jona

    Yeah.

80. 21:29 – 21:53 🗣 Wieland

    So every, so— And then I, I actually did so many things, just to check, to check, is there anything the models can't do, especially now when it comes to creating games and all this 3D stuff. So I, I did so many tests with it, just to see, like, come on, at some point or another it has to fail. I took a random photo of an emoji that I had on my computer, dragged it in, and said: 'Rebuild this emoji as a 3D model.'

81. 21:54 – 21:54 🗣 Jona

    Yeah.

82. 21:54 – 22:07 🗣 Wieland

    'But please with exactly the—with the texture and the shading, as it appears in the image.' He just went ahead and did it. Much more complex too than I thought. Then I had, you know, like, like, from some asset pack, like a template from some city game—

83. 22:08 – 22:08 🗣 Jona

    Mhm.

84. 22:08 – 22:25 🗣 Wieland

    —where everything was just so static. I thought: 'Here, here's this city asset.' I opened Godot and said: 'Bring this to life. The cars should really drive and they should stick to the road and everything and, like, turn corners and all that and the planes should fly and, and everything and...' And he was just like: 'Yeah, okay, I did it.' And he actually did it.

85. 22:25 – 22:25 🗣 Wieland

    [laughs]

86. 22:25 – 22:28 🗣 Wieland

    So that is really insane.

87. 22:28 – 22:28 🗣 Jona

    Yeah.

88. 22:28 – 22:36 🗣 Wieland

    The only thing that really— I mean, the only thing that really limits you is, [laughs] whether you have the hundred-euro or the two-hundred-euro subscription.

89. 22:36 – 22:36 🗣 Wieland

    [laughs]

90. 22:36 – 22:46 🗣 Wieland

    And as the person with the hundred-euro subscription, I'm statistically speaking the pleb who doesn't have the two-hundred-euro subscription for four times the usage of the hundred-euro subscription.

91. 22:46 – 22:47 🗣 Jona

    Mhm.

92. 22:47 – 23:06 🗣 Wieland

    But yeah, I find that really crazy, and I notice in myself a bit, I mean I notice a kind of decision fatigue. So actually, decision fatigue is described as when you don't, say, prescribe something for people, but give them tons and tons of options, then they no longer feel like making a choice at all.

93. 23:06 – 23:06 🗣 Jona

    Yeah.

94. 23:06 – 23:30 🗣 Wieland

    Sometimes it's just better to give people only a few options, or no options at all. Because sometimes they don't want to decide when you give them too many options. And I sense something similar in myself, Jona. So I notice that since I could basically do everything with AI, I somehow want to do nothing with AI. Yeah, that's just how it is, I notice it.

95. 23:30 – 23:36 🗣 Jona

    And as always with every crunch time, we end up at the philosophical questions. Right.

96. 23:36 – 23:46 🗣 Wieland

    Well, and on top of that, it's also a bit like—I am, I am envious, or rather, I am happy for the people who really build a business with the help of AI.

97. 23:46 – 23:46 🗣 Jona

    Mhm.

98. 23:46 – 24:08 🗣 Wieland

    Because I can, I can give you and all of you a little insight. So maybe a friend and I are working on something in the background, but it's really like this: I think to myself, I mean, I do it for the most part because it's fun for me, but I no longer see a market for anything. So I think, what we do, we have, we have, we have no so-called trend.

99. 24:08 – 24:09 🗣 Jona

    Yeah.

100. 24:09 – 24:19 🗣 Wieland

     So basically, we can do what we do there, and as soon as someone gets the idea: “Hey, I want to do exactly the same thing, only two percent better.”

101. 24:19 – 24:19 🗣 Jona

     Yeah.

102. 24:19 – 24:25 🗣 Wieland

     Then theoretically he did it in one afternoon, because AI agents can do all that today.

103. 24:26 – 24:42 🗣 Wieland

     So basically, there, it's—well, yes, I'm, I'm curious, so to speak, where the trend will lie. I fear or think a little that it will still be, that the trend will still be human, human creativity and human taste.

104. 24:42 – 24:42 🗣 Jona

     Yeah.

105. 24:43 – 24:54 🗣 Wieland

     You understand? Because I think to myself, basically theoretically everyone can make any video game these days in very little time. The only question is: Is the idea good?

106. 24:55 – 24:56 🗣 Jona

     Yeah. [sighs]

107. 24:56 – 25:01 🗣 Wieland

     In principle, I could, if I wanted, make thirty of my own Watch Dogs games.

108. 25:02 – 25:02 🗣 Jona

     Yeah.

109. 25:02 – 25:12 🗣 Wieland

     The question is: Are they better than the originals? [laughs] They are, they are, if I have awesome ideas and instruct the AI to put those awesome ideas in—and if not, then not.

110. 25:13 – 25:15 🗣 Jona

     What am I supposed to say to that now? [laughs]

111. 25:15 – 25:21 🗣 Wieland

     Well, no idea. What, what, what do you think? How do you think this will develop? I wouldn't have thought it would happen so quickly. And—

112. 25:21 – 25:21 🗣 Jona

     Yeah.

113. 25:22 – 26:26 🗣 Wieland

     And I'll say this: you've probably also heard that recently this whole for-real AI doom talk was, let's say, underway. Especially with the Neuralesis and all that. So there, there was a lot of fake news, and at the beginning I was a bit happy that I would sit here in Crunch Time and tell you: “Yeah, Jona, you know, in this paper AI 2027, there's a relevant tipping point in the plot where, um, all the AI companies eventually say the AIs are no longer obligated to, like, say in English what they're thinking, but can think in pure vectors, which lets them think much better, but we can no longer control what they think.” And that's a major reason in this fictional story why humans lose control over AI. And actually I wanted to sit here now and say: “Yeah, you know, and then OpenAI thought, ‘Phörp, I know what we're going to do today.’” [laughs] But it probably wasn't quite like that.

114. 26:27 – 26:27 🗣 Jona

     Yeah.

115. 26:27 – 26:28 🗣 Wieland

     But it is already

116. 26:29 – 26:37 🗣 Wieland

     intense, that—well, I think you can really feel the acceleration. I wouldn't have thought it would get this extreme so quickly.

117. 26:37 – 27:10 🗣 Jona

     And at the beginning we were still only dealing with such, such banal things like: Oh, there, it's now, back then it was still just about GPT-3 or something. You, you might still remember our first conversation about it, really, where we said, where you explained to me: “Yeah, then you can, then you effectively have a function that can output natural-language text in a certain way.” Yeah, lol. [laughs] Look where that has developed to. I think I need another Business Month to think about that. [laughs] It's that intense.

118. 27:10 – 27:30 🗣 Jona

     No, um, ugh, that also makes it extremely difficult in principle for developers too, because in the end you then have less and less to control or correct. So that in the end the code actually—I don't want to say is worthless, but the code, uh, but programming is essentially worthless.

119. 27:31 – 27:31 🗣 Wieland

     Yes.

120. 27:31 – 27:59 🗣 Jona

     Because it’s simply too accessible to teach the computer what you want, and it’s already at such an extreme level, just as people—well, naive people—already imagined partly ten years ago: I say something to the computer, and it now has to do exactly that. That we’re actually already at this level, that the translator—well, the developer in this case—has simply been completely left out of the process—

121. 27:59 – 28:00 🗣 Wieland

     Yes.

122. 28:00 – 28:01 🗣 Jona

     From this process.

123. 28:01 – 28:17 🗣 Wieland

     And I find it especially fascinating, um, when you consider—I mean, people used to think back then, okay, you always imagine these, these Star Trek scenarios, where they, more or less, on their ship, also have, yes, a kind of superintelligent computer.

124. 28:17 – 28:17 🗣 Jona

     Yes.

125. 28:18 – 28:21 🗣 Wieland

     Um, to which you can, in theory, simply say anything by voice.

126. 28:22 – 28:22 🗣 Jona

     Yes.

127. 28:22 – 28:28 🗣 Wieland

     And until now, the idea was always, like: Okay, it’s not quite like that, because nowadays we do need data centers.

128. 28:28 – 28:28 🗣 Jona

     Yes.

129. 28:28 – 28:30 🗣 Wieland

     So, you can’t just carry a data center like that around with you.

130. 28:30 – 28:31 🗣 Jona

     Yes.

131. 28:31 – 29:03 🗣 Wieland

     But I mean, it's increasingly going in the direction that you could definitely do it with, say, a server rack full of certain specialized hardware. So if we maybe move away from spaceships for now, that's done, and we stay a bit, we stay on Earth and talk for example about, about something like aircraft carriers. Which is also, like a, a big—it's like a large spaceship, just not in space, but on the lake, on the sea. So, it's absolutely conceivable that you have an aircraft carrier.

132. 29:03 – 29:04 🗣 Jona

     Yes.

133. 29:04 – 29:17 🗣 Wieland

     And it has, somewhere, a server room, where a rack with such specialized hardware stands around, and that is effectively the one computer that still exists there. And people just talk to it all the time.

134. 29:18 – 29:18 🗣 Jona

     Yes.

135. 29:18 – 29:29 🗣 Wieland

     Which in a certain way is what humans have actually always wanted from the computer, but so far weren't able to make happen. I think that was just kind of what—

136. 29:29 – 30:03 🗣 Jona

     But that’s also always, that’s also always the point of these stories, um, to also express how dangerous that can be. That’s why I don’t know whether, how you can categorize that with the wishes. And besides, that’s also always a bit like the—I, I don’t want to say like a kind of plot point, but also part of the lore, how you, um, how you then get the huge amounts of energy to operate your, your whole technology there. I think, within this framework, it would then also be conceivable to really have a server rack standing somewhere.

137. 30:03 – 30:03 🗣 Wieland

     Yes.

138. 30:04 – 30:12 🗣 Jona

     And to operate that with the, I’d say, ar-arbitrary energy source that the author came up with there.

139. 30:12 – 30:30 🗣 Wieland

     No, but I meant, basically, I would claim that in the past, let's say, society was quite often basically promised what is now slowly becoming reality regarding interaction with the computer. So, you have, alone, if we think of Siri—

140. 30:30 – 30:30 🗣 Jona

     Yes.

141. 30:31 – 30:50 🗣 Wieland

     Or even, let's say, the, the even—I want to say, even the command line was basically more or less a: 'Hey, look, you can, well no, you simply interact with the computer, but you have to use a certain modality. You have to speak its language.' So, and we're moving more and more toward simply being able to talk to the computer.

142. 30:51 – 31:06 🗣 Jona

     Right. And with the monitor and the desk and all the desktop analogies that naturally came with it, it was ultimately the same: Oh, you now have a much more intuitive way to interact with the computer, just as you’ve, you’ve already been wishing for all along. Not only: Ah, okay, you now have to—

143. 31:07 – 31:23 🗣 Jona

     You just have to remember all the commands and execute them in the right order, so that you can then do exactly XY and such. And in the end, after all, many, many people had already wished for this little step as well, because it’s simply still annoying right now, and that’s exactly why innovation exists.

144. 31:23 – 31:29 🗣 Wieland

     That's why. I must say, the acceleration at the moment is really crazy, and—

145. 31:29 – 31:40 🗣 Jona

     And also that there are models that can deliver useful outputs on, um, end devices. That's probably also one of the biggest game changers.

146. 31:40 – 31:47 🗣 Wieland

     Yeah, but what I also find really great in that sense is that, for me as a programmer, this month was actually really kind of a dream.

147. 31:48 – 31:48 🗣 Jona

     Yeah.

148. 31:48 – 32:17 🗣 Wieland

     Because I think, well, I like not having to carry around an entire language model that can do pretty much everything or all things. But if I actually say, actually I only want a language model that can detect hate speech, because actually that's, actually that's my thing. And it makes no sense now for the user to download four point five gigabytes of language model onto their phone and then have it running there just so it can do this one specific thing.

149. 32:17 – 32:17 🗣 Jona

     Yeah.

150. 32:17 – 33:03 🗣 Wieland

     So, that's why this is super cool. And also with Jeff, as I said, I'm, I'm curious, uh, what else will be possible. I also have a few of my own things planned for what you can do with it. But one example of how crazy all this is with, um, AIs really going all out to fulfill their task is: I accidentally asked ChatGPT in Work mode on the website, not in Codex, on the website, but in Work mode accidentally: "Hey ChatGPT, in Minecraft with the trial spawners, could I do something in a data pack or something to trigger them even when they can't see a player?"

151. 33:04 – 33:04 🗣 Jona

     Mhm.

152. 33:04 – 33:13 🗣 Wieland

     Um, and I thought, yeah, Chatty will now look on the internet and search on Reddit and read the Minecraft wiki pages.

153. 33:13 – 33:14 🗣 Jona

     [laughs] Yeah.

154. 33:14 – 33:17 🗣 Wieland

     Do you know what he actually did to answer my question?

155. 33:17 – 33:18 🗣 Jona

     Nope.

156. 33:18 – 33:32 🗣 Wieland

     He downloaded Minecraft, the development version, which isn't obfuscated anymore, and looked in the code to see how the trial spawner works. Because the wiki, the wiki could be inaccurate.

157. 33:33 – 33:34 🗣 Wieland

     Yeah, LOL. [laughs]

158. 33:34 – 33:39 🗣 Wieland

     So, and then he says: "Yeah, yeah, I've checked now. This is how it is. For sure."

159. 33:39 – 33:42 🗣 Jona

     And for sure is just literally, yeah, it's right there in the code.

160. 33:42 – 33:43 🗣 Wieland

     Yeah, exactly.

161. 33:43 – 33:43 🗣 Jona

     Have fun, yeah.

162. 33:44 – 33:46 🗣 Wieland

     So, that, that is, that is really wild.

163. 33:46 – 33:46 🗣 Jona

     Yeah.

164. 33:46 – 33:55 🗣 Wieland

     So really, we all underutilize AI. By now even I do. Even I'm not fully using the potential that exists now.

165. 33:55 – 33:55 🗣 Jona

     Yeah.

166. 33:55 – 34:34 🗣 Wieland

     Yeah, well, but I think, basically, the acceleration is now very noticeable. Just from how many and at what increased cadence new AI models are coming out. I mean, we normally had, we always had like three, four months between major models, and now, well, by now I know YouTubers who make a video every day summarizing the latest developments in AI models. Of course, there's also a lot of rumors and stuff involved, but in the end, every week two to three new AI models, frontier AI models, come out.

167. 34:34 – 34:34 🗣 Jona

     Mhm.

168. 34:34 – 34:41 🗣 Wieland

     And as I said, I'm—it feels like we're very close to the singularity, and I'm curious where this is all still heading.

169. 34:42 – 35:42 🗣 Jona

     I have two more tiny surveillance topics that also tie back to past crunch-time topics. One is about the Waymo robotaxis, which have now actually started reporting criminal content or objects that happen inside their robotaxis to the police. So two teenagers in America have already been arrested for handling a gun in one. And yes, that has naturally revived the controversy a bit: okay, what exactly is being monitored and how is it being processed? We already talked about this with self-driving Teslas, about what the cameras—not just the interior cameras, of course, but also the exterior cameras—can in principle always record and what

170. 35:43 – 36:38 🗣 Jona

     everything is included. A few months ago, there was also the issue with the Meta Smart Glasses, where, let's say, relatively unfiltered data went to Meta employees, and you could actually see explicit content and private moments of the respective buyers. But that was a few months ago, maybe even half a year. And on this Smart Glasses topic, we also talked about this Watch Dogs-like person annotation, as I call it, and something like that now exists on Facebook, or Meta, whatever you want to call it. And there, let's say, there was also a controversy where there was annotated data on posts, where private data of the respective person was also pub-

171. 36:38 – 36:54 🗣 Jona

     lished. Specifically, Meta AI asked a question: "Oh, do you know this child on the right?" You must have seen that too, the post or the coverage about it, where you then,

172. 36:55 – 37:19 🗣 Jona

     where you could expand the accordion and there were legit personal details of the mother and, I think, her and her child on it, including past and current addresses and names, full names, first and last name of the child, etc. Meta got some flak for that.

173. 37:19 – 37:22 🗣 Wieland

     But can you tell me again?

174. 37:22 – 37:22 🗣 Jona

     Mhm.

175. 37:22 – 37:24 🗣 Wieland

     So I don't know if I remember correctly.

176. 37:25 – 37:25 🗣 Jona

     Yes.

177. 37:25 – 37:37 🗣 Wieland

     I think that this, um, that the thing was that it rather exposed that all this info was more or less already accessible.

178. 37:37 – 37:37 🗣 Jona

     Right.

179. 37:37 – 37:38 🗣 Wieland

     if I understood that correctly-

180. 37:38 – 37:39 🗣 Jona

     Exactly.

181. 37:39 – 37:49 🗣 Wieland

     -uh, it only worked because Meta AI accessed things that were available in other postings by the family.

182. 37:49 – 38:06 🗣 Jona

     Right. That it naturally had access to it and evaluated it. Right, that would be the next thing I would have addressed. You summarized that very well. Yes, that Meta collected it and can also process it on such a scale.

183. 38:06 – 38:19 🗣 Wieland

     But no, I meant that in principle it's info that basically any person who just looks at the postings of this account could also, let's say, reconstruct.

184. 38:19 – 38:20 🗣 Jona

     That doesn't necessarily mean that.

185. 38:21 – 38:21 🗣 Wieland

     Okay.

186. 38:21 – 39:10 🗣 Jona

     Because Meta itself also collects an extreme amount of data, which is, of course, also their business model. And there are plenty of things you can't capture. Of course, from the pictures and the posts and also the timestamps and descriptions, you can of course extract the most. That's clear. And another person could also infer a lot about your life. But you won't be able to reach, let's say, this confidence level that Meta has when they also have your entire location history, etc. But yes, you could—you're right, as an outsider you could already infer an extreme amount of data from it. But I think that's something that possibly everyone who is on social media should be aware of, but they definitely aren't.

187. 39:10 – 39:34 🗣 Wieland

     But I think this is again an example—that's why I wanted to make sure it really is an example—of this like something gets flak or is controversially discussed because it simply presents data that had been available all along in a way that makes people realize: Oh, this data is available.

188. 39:34 – 39:38 🗣 Jona

     Yes, where it now becomes a, a legi—a legitimate problem.

189. 39:38 – 39:39 🗣 Wieland

     Yes.

190. 39:39 – 39:48 🗣 Jona

     And not: Ah, well, okay, my data is being misused there. Maybe one should just say: "Ah, well, you can do a lot..."

191. 39:49 – 39:52 🗣 Jona

     That then, let's say, you can no longer overlook it.

192. 39:52 – 39:52 🗣 Wieland

     Yes.

193. 39:52 – 40:03 🗣 Jona

     That at first you were simply ignorant and just accepted it, um, or put up with it. And yes, well, but do we really need to do something against Meta or Google now?

194. 40:03 – 40:04 🗣 Wieland

     Mhm.

195. 40:04 – 40:17 🗣 Jona

     Well, it doesn't necessarily have to be. In the end, I use it a lot too, and then you just find excuses for yourself. You, you understand? And then, when it naturally becomes a real problem, yes, then people naturally get very upset about it.

196. 40:18 – 40:19 🗣 Wieland

     As I said, so if you tell me now that that-

197. 40:19 – 40:21 🗣 Jona

     But then, as I said, it's already too late.

198. 40:21 – 40:22 🗣 Wieland

     Yeah, sure, but-

199. 40:22 – 40:28 🗣 Jona

     The, the, the point is that they collect and process it, not how they now output it.

200. 40:28 – 40:40 🗣 Wieland

     No, exactly. But the thing is, if you tell me now that in this case Meta AI worked with internal data, so things that weren't just available from public posts-

201. 40:40 – 40:40 🗣 Jona

     Yes.

202. 40:40 – 40:46 🗣 Wieland

     -but rather the Meta model, which is of course in the backend, has internal access to everything.

203. 40:46 – 40:46 🗣 Jona

     Yes.

204. 40:46 – 41:00 🗣 Wieland

     I would have-- And they might have done it for good reasons, so, so, maybe they had an idea, but they apparently, out of ignorance, set it up so that the public Meta AI, which you can ask things about a person's postings-

205. 41:00 – 41:00 🗣 Jona

     Right.

206. 41:01 – 41:10 🗣 Wieland

     -you, you have the context of all data that Meta has about this person. Not just the data that you could also see publicly on the profile.

207. 41:11 – 41:24 🗣 Jona

     Yes, as far as I know, that's the case. So it will certainly be limited, maybe not everything, let's say, not one hundred percent. But there is definitely also access to non-public data involved.

208. 41:24 – 41:44 🗣 Wieland

     Exactly, because something similar happened this month that extremely reminded me of this and also reminded me of my whole, you know, also with OpenStreetMap there's occasionally this controversy, which is always gladly discussed. I don't know if you've heard of this whole, if you've heard of the project God's Eye View.

209. 41:44 – 41:45 🗣 Jona

     No, not yet.

210. 41:45 – 41:58 🗣 Wieland

     So a developer just released, in quotation marks, a program, or more or less a very cool-looking, in the end he released a map application-

211. 41:58 – 41:58 🗣 Jona

     Yes.

212. 41:58 – 42:14 🗣 Wieland

     -where he simply unites massive amounts of public APIs about things in the real world in one place. For example, flight radar, publicly available CCTV cameras.

213. 42:14 – 42:14 🗣 Jona

     Yes.

214. 42:15 – 42:38 🗣 Wieland

     Publicly available routes of military stuff, uh, and all sorts of things that you can view publicly. And there was also, let's say, a-- And you could notice a bit that he had also become a bit resigned, because at first he still tried to explain it somehow, because very, very often the question came up: "Yeah, but huh, huh, no, are you allowed to do that?"

215. 42:39 – 42:41 🗣 Wieland

     So, is that even allowed? So,

216. 42:42 – 42:58 🗣 Wieland

     w-why so and also like: "Wow, crazy, this guy achieves what all our intelligence agencies can't." So, because basically, no matter how often he said it, people didn't get it, it's just a visualization tool for data that has always been public.

217. 42:59 – 42:59 🗣 Jona

     Yes.

218. 42:59 – 43:30 🗣 Wieland

     And people didn't get that, and you have-- and you somehow notice, and I mean, I understand it too, because it naturally makes him seem cooler. At some point he really, let's say, he then just, he gave up, he went along with it, because I know-- in an interview he said: "Yeah, so very important is, I drew the line at: with my tool you can't track people. I decided to build it that way so that I draw the line there." And I just think: "You didn't draw a line there. There's simply no public API where you can retrieve data about people."

219. 43:31 – 43:33 🗣 Wieland

     Yes. [laughs]

220. 43:33 – 43:37 🗣 Wieland

     So, I don't know what that was about, but I think it's just, it's just again one of those things-

221. 43:38 – 43:38 🗣 Jona

     Yes.

222. 43:38 – 43:55 🗣 Wieland

     -where basically now all these AI topics get exposed a bit, similar to how David Grisel did ages ago with Der Spiegel, where it was said: "Yeah, no, you might even be able to find out who is having an affair with whom in the editorial office."

223. 43:56 – 43:56 🗣 Jona

     Yes.

224. 43:56 – 44:06 🗣 Wieland

     So, then he says: "Huh? A-are you allowed to do that? Did you hack them or how do you know that?" And he goes: "No, I can read that from publicly available data."

225. 44:07 – 44:07 🗣 Jona

     Yes.

226. 44:07 – 44:07 🗣 Wieland

     So.

227. 44:08 – 45:28 🗣 Jona

     No, that's just, yeah, but that, that must be, apparently no one tells you that, that yes, that's in itself also, if you just talked about intelligence work, that it's actually for the most part, like ninety, ninety-five percent, actually a kind of data processing, which is based on typical open-source, let's say, um, data, where you just say: "Yeah, okay, you can just buy things yourself, um, either buy them directly or just further process public data for yourself." And that's in the end the largest part, let's say, of the work, and you naturally still have ten percent spicy shenanigans, let's say, but those remain intelligence work, and people imagine that the ten percent make up more like the ninety percent and not the other way around. And that's a bit disproportionate. Yes, very good, but I noted that down right away and will also look into what you can do with it. I don't know if, what, w-what other APIs exist that you could integrate, besides public transport, um, flights, ships apparently, maps of course. I don't know, are there publicly available cameras in Chemnitz and how many are there?

228. 45:28 – 45:29 🗣 Wieland

     No, no, no. So as far as I-

229. 45:29 – 45:29 🗣 Jona

     That's already-

230. 45:29 – 45:45 🗣 Wieland

     -as far as I know, at least not. But as I said, you can infer a very, very lot implicitly. For example, yes, as we already had with transitions, from the real-time data of public transport alone you can theoretically infer where a bus is right now.

231. 45:46 – 45:46 🗣 Jona

     Yes.

232. 45:46 – 45:47 🗣 Wieland

     Like that, for example.

233. 45:47 – 45:51 🗣 Jona

     And thus you can indeed track people like the bus driver.

234. 45:51 – 45:51 🗣 Wieland

     Yes.

235. 45:52 – 45:53 🗣 Jona

     In a certain way, yes.

236. 45:53 – 45:58 🗣 Wieland

     Or, you can also from, from delays that theoretically come out of nowhere-

237. 45:59 – 45:59 🗣 Jona

     Yes.

238. 45:59 – 46:02 🗣 Wieland

     -also maybe read a bit where there's currently a traffic jam.

239. 46:02 – 46:02 🗣 Jona

     Yes.

240. 46:02 – 46:04 🗣 Wieland

     Just from public transport data.

241. 46:04 – 46:04 🗣 Jona

     Yes.

242. 46:04 – 46:27 🗣 Wieland

     And that's just, yeah, well for example, yeah, also something like, also what I didn't know, for example, somehow also publishes the, uh, there are for example also live, that's more relevant for America. There are live data for the whole world about wildfires that you can integrate. There are live data, so there are incredibly many earthquakes every day, but they're mostly weak and we don't hear about them.

243. 46:27 – 46:27 🗣 Jona

     Yes.

244. 46:27 – 46:30 🗣 Wieland

     But there are also live feeds that you can all integrate. So.

245. 46:30 – 46:30 🗣 Jona

     Wow.

246. 46:31 – 46:34 🗣 Wieland

     There are also live data about which satellites are flying where.

247. 46:34 – 46:35 🗣 Wieland

     True,

248. 46:35 – 46:39 🗣 Wieland

     That are publicly available. And yes, so all that works.

249. 46:40 – 47:32 🗣 Jona

     Oh, Wieland, the episode is slowly drawing to a close again. We've talked very, very extensively and intensively about AI—um, simply because, as we already said, developments in that area have been so extremely fast-paced and in the end completely overshadowed most other topics. That's also become a bit apparent in Crunch Time. Exactly, this was the eighty-fourth episode of Crunch Time. It's a tech podcast where we talk about all IT topics and now and then also about the news from TU Campus and what's been developing in our personal lives and personal tech setups, I'd say. Wieland, if you tuned into the current episode a little too late, where can you listen to it again now?

250. 47:32 – 48:00 🗣 Wieland

     Crunch Time episodes can be listened to again wherever you get podcasts—so of course on Spotify, YouTube, Apple Music, and there's of course also an RSS feed you can access at podcast.radio-unique.de, and on our website radio-unique.de you'll always find an article with, uh, the episode and the show notes, so you can listen back to our whole catalog if you like.

251. 48:01 – 48:05 🗣 Jona

     Very good. And when does our next episode of Crunch Time air?

252. 48:05 – 48:08 🗣 Wieland

     Well, since it always comes on the fourth Sunday of the month—

253. 48:09 – 48:09 🗣 Jona

     Right.

254. 48:09 – 48:23 🗣 Wieland

     —at 6 p.m., that's of course also the case for our next episode. And in this case that's October 25, 2026. If you tune in at 6 p.m., you'll hear the eighty-fifth episode of Crunch Time.

255. 48:23 – 48:25 🗣 Jona

     I hope we'll hear each other again then. Take care.

256. 48:26 – 48:26 🗣 Wieland

     Bye.

257. 48:33 – 48:33 🗣 Wieland

     [outro jingle]

258. 48:33 – 48:39 🗣 Wieland

     That was Crunch Time, a production by Radio Unique.

Zuletzt aktualisiert am 1

1. 00:00 – 00:07 🗣 Wieland

   Radio Unique presenta [música de fondo] Crunch Time.

2. 00:10 – 00:12 🗣 Wieland

   Con Jona y Wieland.

3. 00:13 – 00:24 🗣 Wieland

   Hola a todos los que nos escucháis, y bienvenidos al episodio ochenta y cuatro de Crunch Time, nuestro séptimo aniversario. Desde hace siete años os lo traigo yo, Wieland—

4. 00:24 – 00:25 🗣 Jona

   Y yo, el Jona.

5. 00:25 – 00:44 🗣 Wieland

   Cada cuarto domingo del mes, lo más nuevo del mundo de la tecnología y, a veces, también del campus de la TU y de nuestras peripecias tecnológicas personales. Hoy hemos preparado otra vez una buena hora para vosotros, llena de, sí, digamos, noticias y sus análisis del mundo tecnológico. Jona, cuéntanos.

6. 00:45 – 01:10 🗣 Jona

   Tenemos que hacernos una idea de cuánto ha cambiado el mundo de la tecnología en los últimos siete años. ¿Sabes? Hoy mismo me he dado cuenta. Espera, es que prácticamente cada semana sale al menos una noticia en la que se dice: vale, una gran empresa XY de Estados Unidos ha sido hackeada con este exploit asistido por IA.

7. 01:10 – 01:10 🗣 Wieland

   Mhm.

8. 01:10 – 03:45 🗣 Jona

   Y eso, en ese caso, tuvo también consecuencias extremas. Oh, había datos de clientes metidos ahí, o determinados datos de personal, algunas bases de código secretas; en fin, cosas que, digamos, por su magnitud suelen ser realmente extremas. Y ahora simplemente se ha normalizado que más o menos una vez por semana salgan noticias tan grandes como: oh, Meta fue hackeada de esta manera y, por supuesto, lo solucionaron en muy poco tiempo. Y, y antes de entrar en detalles concretos, solo quería mencionar lo difícil que se vuelve seguirle el ritmo a todo esto. No para nosotros. Al final, para nosotros es más o menos irrelevante, salvo que nos interesa personalmente cómo se llegó a producir, sino todos los procesos asociados. Que las empresas, a estas alturas, tengan que invertir una cantidad de energía enorme para no quedarse atrás, para desplegar ya en pocas horas ciertos parches para ciertos sistemas, sin hablar de procesos burocráticos. Porque si algo así pasara en una empresa alemana, pues sería: oh, paso uno, primero tendrías que buscar tu, digamos, [se ríe] protocolo de seguridad, tu checklist para este caso, qué haces en esta situación. Y en el mejor de los casos ya tienes una, pongámoslo así. Luego, por supuesto, también hay que informar a tu delegado de protección de datos. Este, a su vez, tiene que informar a la autoridad de protección de datos, y ella, al final, también se encarga primero de la transmisión de información directamente. O sea, también deciden lo grave que es y, en caso de duda, se encargarían de la comunicación con los empleados afectados, por ejemplo si se trata de datos personales; los informarían ellos, y no la propia empresa, que yo sepa. Mientras que tú, como empresa, tienes que estar luchando todo el tiempo y pensar: vale, déjame ver, eh, ¿de dónde viene esto en realidad? ¿Qué versión podemos, quizá, revertir de qué sistemas? Y, por supuesto, tienes que sustituir todas las claves directamente, o sea, todas las claves SSH, cualquier otra clave de inicio de sesión, contraseñas, todo lo que se pueda imaginar hay que reemplazarlo de inmediato. Y eso es bastante, en comparación con lo fácil que es ahora, digamos, gastarte menos de tres mil dólares estadounidenses, como en el ejemplo que viene, para hackear simplemente una serie de grandes empresas conocidas.

9. 03:45 – 03:45 🗣 Wieland

   Mhm.

10. 03:46 – 04:00 🗣 Jona

    Y eso, claro, con dinero que se metió en tokens en Claude. La publicación del, em, del, del siguiente problema de seguridad empezó directamente con el cómic de XKCD, o con una viñeta del cómic.

11. 04:01 – 04:01 🗣 Wieland

    Sí.

12. 04:01 – 06:37 🗣 Jona

    Precisamente que internet y la mayor parte del software los mantiene un poco, en pie, unidas, una persona aleatoria de Nebraska, que en 2006, en algún momento, sacó adelante un proyecto cualquiera. Y justo, legítimamente, al final eso también se convirtió en una vulnerabilidad. Bueno, como se quiera llamar, un investigador de seguridad llamado Sirius, que estuvo un poco en OpenAI; no, no es que limpiaran nada. Al final solo publicaron un pull request en el Git interno para, para llamar un poco la atención sobre ello. Porque al final habían hackeado, em, el foro de Discourse, que OpenAI, em, aloja. Y ese foro también tiene que procesar imágenes de alguna manera, porque es un foro. Y ahí hay una biblioteca de C antiquísima, em, LibHEIF, como sea que se pronuncie, para un formato típico de imagen y vídeo, em, quizá lo conozcáis. Y simplemente hay un heap overflow que se puede, em, provocar en ella. Puedes subir al foro un archivo de imagen manipulado. Es decir, en realidad le indicas a ese códec que superponga dos imágenes y, con distintos modos de fusión, etcétera; seguro que lo habéis visto alguna vez en un editor de imágenes. Y ahí también puedes indicar un offset, o sea, cuánto debe desplazarse hacia la izquierda, derecha, arriba y abajo la imagen que superpones. Y, claro, también puedes introducir números negativos, de modo que, digamos, desplazas la imagen superpuesta hacia la izquierda, por ejemplo, fuera del borde de la imagen, si introduces una coordenada X negativa. El sistema también lo acepta como legítimo, pero al procesarlo... Pero al procesarlo, en algún punto se produce un cast, como se conoce en C, de entero con signo a entero sin signo. Y eso significa que una cifra negativa pequeña, quizá menos cincuenta, en la que quieres desplazar una imagen, se convierte rápidamente en los conocidos cuatro coma dos mil millones, si al final haces ese entero con signo y luego la biblioteca intenta escribir en una posición de memoria que, en principio, no le pertenece en absoluto. Y, claro, hay sistemas que lo impiden, pero también se pudieron eludir, de modo que efectivamente tienes ejecución remota de código.

13. 06:37 – 08:24 🗣 Jona

    Y con esa ejecución remota de código en los servidores de OpenAI pudieron además decir: «Venga, ahora seguimos usando, igual que ahora, Claude 4.8, Claude Opus 4.8, debería decir correctamente, y buscamos también un bug en el sistema de login». Y, la verdad, buscaron mucho, pero no encontraron nada. Y unas horas después [se ríe] salió Claude Opus 5 y con eso quedó hecho en, no sé, dos o tres horas, de modo que también se pudo encontrar una vulnerabilidad en el inicio de sesión único de OpenAI, así que al final fueron varias, digamos, muchísimas piezas las que encadenaste, con las que tenías acceso completo, porque también se trataba de que las direcciones de correo de los empleados de OpenAI quedaron comprometidas y, por tanto, tenías acceso a todo. También estaba Slack, el Git interno y otros sistemas que usan, datos de empleados, todo tipo de cosas. Y entonces el, digamos, investigador de seguridad o hacker, como quiera llamarse, dijo: «Sí, vale, venga, ahora solo hago un pull request. Aquí, mirad lo que hay», algo así. Pero en realidad solo recibió seis mil quinientos dólares como bug bounty por ello, lo cual es relativamente poco para algo así. Y eso se debió a que solo se lo dieron por el, eh, bug del inicio de sesión único, porque como empresa no siempre puedes pagar bug bounties por proyectos de software que simplemente usas junto con otros.

14. 08:24 – 08:24 🗣 Wieland

    Sí.

15. 08:24 – 09:59 🗣 Jona

    Eso no puede ser, porque, ¿a dónde vas a llegar si cada empresa que usa una biblioteca tiene que dejar directamente al investigador de seguridad varios millones en total? Sería una tontería. Por eso, claro, quedaba fuera del alcance. También fueron noticias muy grandes. Solo quería que lo tuviéramos un poco más formulado. A menudo ayuda a entender este tipo de cadenas complejas, em. Exacto, y esto era solo un ejemplo de la situación actual, de que va a ser un poco difícil gestionar todo esto en el mundo. Y también se lee a menudo sobre escapes de sandbox. De eso ya hablamos en el Crunch Time. Y, la verdad, en su mayor parte solo se impiden un poco. Si miras ahora: oh, vale, em, salió Claude Opus 5.5, con restricciones de seguridad adicionales, em. Pero en principio eso solo se refiere al escape de sandbox, y no a la competencia con la que puede actuar el modelo. Eso es completamente aparte y, al final, de todos modos solo tienes el juego del gato y el ratón entre... sí, pero también tienes que poder detectar vulnerabilidades con IA, tanto si eres el bueno como si eres el malo. Si trabajas dentro de la empresa y tú mismo buscas vulnerabilidades de forma legítima, y la persona de fuera que también busca vulnerabilidades en tu empresa. Y de alguna manera no podéis tener herramientas distintas para ello.

16. 09:59 – 10:00 🗣 Wieland

    Sí.

17. 10:00 – 10:31 🗣 Jona

    Eso, eso no funciona, sino que, sí, desde luego va a ser emocionante. Y esto era, claro, solo uno de los cientos, solo un ejemplo para mostrarlo aquí. Y sí, hace dos días también salió información completamente nueva, pero quizá primero deberíamos esperar y ver hasta que la situación informativa se relaje un poco y podamos contar algo realmente al respecto, em. En cualquier caso, seguiremos atentos. Pero no creo que vaya a parar esta, esta ola de vulnerabilidades.

18. 10:32 – 10:56 🗣 Wieland

    Sí, Jona, para mí el último mes también estuvo marcado, digamos, por modelos de IA más bien pequeños, o modelos que no están tan, digamos, en la frontera extrema, sino quizá un poco más apartados, pero que aun así molan mucho. Y la primera cosa de la que, sentí que todos hablaban,

19. 10:57 – 11:34 🗣 Wieland

    que al principio pensé, oh, es un tema de nicho que no interesará a nadie, y de repente todos hablaban de Jeff, pero escrito J-E-V, no, eh, no el Jeff de la publicidad de Treffpunkt 18 DE. Em, exacto, Jeff es un modelo de IA que ha salido, em, que es propietario, pero usaron una técnica interesante, em, por la que este modelo de IA no genera texto, sino que solo puede elegir entre opciones que ya le has pasado. Y eso lo hace muy rápido y muy barato.

20. 11:34 – 11:34 🗣 Jona

    Sí.

21. 11:34 – 12:13 🗣 Wieland

    Como todas las decisiones, o sea, las decisiones tienen que ser todas independientes entre sí, pero puede haber prácticamente tantas como quieras. Creo que técnicamente está limitado a doscientas cincuenta y seis, pero pueden ser muchas decisiones a la vez, muchas preguntas que puedes hacer sobre tu input, sobre tu estado y, eh, las respuestas se generan todas en paralelo. Por eso es extremadamente rápido y, por otro lado, es extremadamente barato. Mientras que con otros modelos de IA hablamos siempre de, qué sé yo, diez dólares por millón de tokens de input, cincuenta dólares por millón de tokens de output, aquí hablamos de cuatro coma dos centavos por millón de tokens de input y los tokens de output

22. 12:13 – 12:14 🗣 Wieland

    son gratis.

23. 12:14 – 12:14 🗣 Jona

    Sí.

24. 12:14 – 12:19 🗣 Wieland

    Porque son demasiado minúsculos para medirlos.

25. 12:19 – 12:29 🗣 Jona

    Eso es, claro, extremadamente genial, y al final no deja de ser una, claro, al final una limitación enorme, porque uno se lo puede imaginar como si simplemente tuviera un esquema de salida estricto-

26. 12:29 – 12:30 🗣 Wieland

    Sí.

27. 12:30 – 12:37 🗣 Jona

    -que se pasa como esquema JSON, y al final es un gran problema de clasificación- -del machine learning, como se conoce.

28. 12:38 – 12:50 🗣 Wieland

    Sí. Y eso también me pareció interesante, porque, a ver, em, por un lado, se metieron un poco en un lío, porque en su material publicitario dijeron: «Oh, el modelo no puede alucinar». Ya está.

29. 12:50 – 12:52 🗣 Wieland

    Bueno. [ríe]

30. 12:52 – 12:55 🗣 Wieland

    sí. O sea, lo que querían decir es que no puede desviarse del esquema-

31. 12:56 – 12:56 🗣 Jona

    Sí.

32. 12:56 – 13:12 🗣 Wieland

    -que tú le das. Y ahí me di cuenta de que mucha gente parece no conocer los Structured Outputs, porque es un poco, muchos comentaristas también lo han vendido como revolucionario, cuando en realidad es algo que existe desde hace bastante tiempo, este-

33. 13:12 – 13:12 🗣 Jona

    Sí.

34. 13:12 – 13:15 🗣 Wieland

    -poder forzar un esquema JSON concreto como output.

35. 13:15 – 13:18 🗣 Jona

    Eso ya se puede hacer incluso con modelos extremadamente antiguos-

36. 13:18 – 13:18 🗣 Wieland

    Sí.

37. 13:18 – 13:26 🗣 Jona

    -que ahora, para, donde hoy en día dices, bueno, eso ya es aquí todavía [ríe] tecnología de la Edad de Piedra- -digamos, ahí también funciona ya.

38. 13:26 – 13:30 🗣 Wieland

    Sí. Pero eso me pareció, em, muy, muy interesante.

39. 13:30 – 13:30 🗣 Jona

    Sí.

40. 13:30 – 13:50 🗣 Wieland

    Y, eh, eso es muy, muy guay, porque creo que hay muchos casos de uso en los que básicamente solo tienes ese tipo de decisión. Y eso es en realidad lo que uno, como programador, espera más bien de la IA. Que sea simplemente un if asistido por IA o un switch asistido por IA.

41. 13:50 – 13:50 🗣 Jona

    Sí.

42. 13:50 – 14:16 🗣 Wieland

    Y es tan barato y va tan rápido que de verdad puedes procesar, sí, grandes cantidades de datos sin que apenas lo notes en tu flujo de trabajo. Así. Era tan rápido que, por ejemplo, hicieron que el modelo jugara a Doom como prueba. Simplemente porque, digamos, el input y el output, hay que decirlo, era, digamos, el modelo ya recibía el estado como texto, porque el modelo realmente solo puede leer texto.

43. 14:16 – 14:16 🗣 Jona

    Mhm.

44. 14:16 – 14:32 🗣 Wieland

    Así que no veía Doom, pero solo recibía el estado y luego, de verdad, en cincuenta milisegundos recibe la respuesta, donde básicamente a la pregunta: ¿Debería pulsar ahora este botón? ¿Debería pulsar ahora este botón? ¿Debería pulsar este botón? Siempre se responden, las preguntas.

45. 14:33 – 14:33 🗣 Jona

    Sí.

46. 14:33 – 15:32 🗣 Wieland

    Eso ya es bastante, bastante guay. Y lo otro que este mes también me pareció extremadamente interesante, y que pasó relativamente desapercibido, fueron los lanzamientos de modelos de Desert Ant Labs. Es una, es una empresa de IA de Europa y han desarrollado una serie de, o sea, con una serie me refiero de verdad a un montón de modelos pequeños especializados, que están pensados para ejecutarse en teléfonos. Y siempre están entrenados específicamente para hacer una cosa concreta. Te doy así solo unos cuantos ejemplos. O sea, o mejor te leo simplemente todo lo que hay, eh. Y verás, tenemos, o sea, también tienen siempre nombres, nombres, nombres muy locos. Por ejemplo, está el, el modelo Align, al que de verdad puedes darle un audio y un transcrito ya existente de ese audio, y mejora las marcas de tiempo de las palabras en ese-

47. 15:32 – 15:32 🗣 Jona

    Sí.

48. 15:32 – 16:40 🗣 Wieland

    -en este, en este transcrito. Luego hay un modelo que se llama Clear, que es simplemente una cosa para suprimir ruidos en audio. Luego está el modelo Clips, que, eh, puede buscar en un transcrito con marcas de tiempo momentos molones para clips. Em, luego hay un modelo que sirve específicamente para averiguar qué idioma se habla en un audio. Se llama Ear. Luego hay uno que se llama Emo, que sirve simplemente para proponer un emoji a partir de un texto. Así que ves, son muchísimos modelos muy pequeños. Algunos son de un coma cinco megabytes. Así. Luego un modelo que, eh, eh, crea etiquetas y temas para publicaciones. Luego también, por ejemplo, un modelo que sirve para, eh, encontrar y censurar información personal identificable en un texto. Y hay uno realmente loco, en el que a partir de una línea que dibujas con el dedo haces prácticamente una forma perfecta. O sea, dibujas una línea en tu, en tu dispositivo- -y recibes básicamente las coordenadas SVG de una línea prácticamente perfecta, de esa línea.

49. 16:40 – 16:40 🗣 Jona

    Mhm.

50. 16:41 – 17:38 🗣 Wieland

    Todo ese tipo de cosas. Algo que crea títulos, algo-- Es, es, es, es una pasada. Y luego también hay, claro, algunos, eh, modelos que todavía están en beta, o que aún no están disponibles públicamente. Y, a ver, esos todavía no los he podido probar. Por ejemplo, hay uno que se llama Eye, que consiste en categorizar y clasificar imágenes según estética y contenido. Luego un modelo que se llama Face, que sirve para reconocer personas, por ejemplo, para agrupar en, en la galería de tu móvil las fotos según quién aparece en ellas. Luego hay un modelo que se llama Moderator. Se trata de detectar desnudos en fotos. Em, un modelo que se llama, eh, Schemer, con el que se puede extraer cualquier JSON de un texto. Un modelo que puede detectar discursos de odio y un modelo que, eh, ahí, que sirve para detectar quién dijo qué y cuándo en un audio o vídeo. Lo que, por ejemplo, sería muy bueno para procesar pódcast. Así.

51. 17:38 – 17:48 🗣 Jona

    Justo iba a decir, con todos los modelos de audio- -de los que acabas de hablar, pensé, eso es en realidad exactamente lo- -que era tu plan o que ya habías implementado.

52. 17:48 – 17:48 🗣 Wieland

    Sí.

53. 17:48 – 17:53 🗣 Jona

    Y probar eso ahora simplemente en un modelo así empaquetado en pequeño- -suena genial.

54. 17:54 – 17:54 🗣 Wieland

    Eso-

55. 17:54 – 17:56 🗣 Jona

    ¿Has averiguado algo al respecto?

56. 17:56 – 18:15 🗣 Wieland

    Eh, mira, Jon, había otra cosa-- O sea, te puedo decir que, eh, yo al menos, como quizá hayáis visto en nuestro canal de YouTube, estoy haciendo progresos en todo este tema. No con esos modelos, pero también intentaré incorporarlos. Pero una cosa muy interesante-

57. 18:16 – 18:33 🗣 Wieland

    Que pasó en el curso de esto, de mi ocupación con estos modelos, fue algo que poco a poco me hace decir: «Jona, creo que hemos alcanzado el punto de inflexión: básicamente no hay nada que los modelos actuales no puedan hacer.» O sea, lo que la persona normal quiere hacer a diario.

58. 18:34 – 18:34 🗣 Jona

    Sí.

59. 18:34 – 18:38 🗣 Wieland

    Like obviously, eh, acabamos de oír que, eh, cada vez más

60. 18:39 – 18:43 🗣 Wieland

    problemas matemáticos sin resolver durante siglos se resuelven.

61. 18:43 – 18:44 🗣 Jona

    Cierto, sí.

62. 18:44 – 18:51 🗣 Wieland

    Okay, I guess. Pero, eh, ha salido el nuevo modelo de OpenAI, GPT seis Astra.

63. 18:52 – 18:52 🗣 Jona

    Sí.

64. 18:52 – 19:25 🗣 Wieland

    Y Thibault, nuestro señor y salvador, [ríe] nos concedió un reset, así que pude trastear un poco con él y probé las cosas que, eh, todos han probado. Por ejemplo, cuando estuvimos en los Campus-Medientage en Bamberg hace unas semanas, eh, grabé un room tour rápido de nuestra habitación del albergue y le di ese room tour, solo el vídeo, a Astra, abrí Blender, instalé el MCP de Blender y dije: «Reconstruye esta habitación como modelo 3D.»

65. 19:25 – 19:25 🗣 Jona

    Sí.

66. 19:25 – 20:07 🗣 Wieland

    Y simplemente lo hizo. Y además quedó muy bien, con shaders y todo, y se veía mucho más guapo de lo que esperaba. Fue la hostia. Y o sea, no pude, no pude plantearle ninguna tarea que no lograra. Y luego me topé con el siguiente problema: cuando estas, o sea, le dije al Codex: «Toma, escríbeme una app rápida de Android para poder probar todos estos modelos- -en mi móvil.» También lo hizo, pero también leí que estos modelos, algunos no están en la beta cerrada, pero por ahora, en realidad siempre han salido para Android, iOS y JavaScript. Algunos de los modelos, sobre todo los de audio-

67. 20:08 – 20:08 🗣 Jona

    Mhm.

68. 20:08 – 20:14 🗣 Wieland

    -por ahora solo para Apple Intelligence. Y eso era un fastidio, porque no tengo iPhone.

69. 20:15 – 20:15 🗣 Jona

    Sí.

70. 20:16 – 20:39 🗣 Wieland

    Y entonces investigué un poco, y con eso quiero decir que le pregunté a otra instancia de ChatGPT: «Oye, estos modelos de Apple, estos archivos M Model, M Model C, los de Neural Engine», dice, o sea, ¿contienen en principio toda la información como para poder ejecutarlos en otro sitio o convertirlos?

71. 20:39 – 20:39 🗣 Jona

    Mhm.

72. 20:39 – 20:51 🗣 Wieland

    Y entonces Chatty dijo: «Sí, en principio deberían contener toda la información», y también encontré en internet que algunos intentaron escribir un conversor así.

73. 20:51 – 20:51 🗣 Jona

    Mhm.

74. 20:51 – 21:06 🗣 Wieland

    Pero desde luego no hay nada hecho que solo tengas que meter y sacar. Y entonces fui a Codex, puse GPT-6 Astra muy alto y dije: «Algunos de estos modelos solo existen para Apple. Cámbialo.»

75. 21:06 – 21:07 🗣 Wieland

    [ríe]

76. 21:08 – 21:08 🗣 Wieland

    Y lo hizo.

77. 21:09 – 21:09 🗣 Jona

    Sí.

78. 21:09 – 21:28 🗣 Wieland

    Encontró, inventó una forma de convertir estos modelos al formato ONNX y ahora podía probar los modelos en mi móvil Android. Pensé: «Poco a poco, simplemente ya no hay nada que los modelos no puedan hacer.»

79. 21:28 – 21:28 🗣 Jona

    Sí.

80. 21:29 – 21:53 🗣 Wieland

    Cada, o sea-- E hice tantas cosas, solo para ver, para ver si hay algo que los modelos no puedan hacer, sobre todo ahora al crear juegos y cosas 3D. O sea, hice muchísimas pruebas solo para ver, venga, en algún momento tiene que fallar. Cogí una foto random de un emoji que tenía en mi ordenador, la arrastré, dije: «Reconstruye este emoji como modelo 3D.»

81. 21:54 – 21:54 🗣 Jona

    Sí.

82. 21:54 – 22:07 🗣 Wieland

    «Pero por favor con exactamente la textura y el shading que se ve en la imagen.» Simplemente lo hizo. Mucho más complejo también de lo que pensaba. Luego tenía como una, como una plantilla de un asset pack, de un juego de ciudad-

83. 22:08 – 22:08 🗣 Jona

    Mhm.

84. 22:08 – 22:25 🗣 Wieland

    -donde todo era estático. Pensé: «Toma, aquí está este asset de ciudad.» Abrí Godot y dije: «Dale vida. Los coches deben conducir de verdad y respetar la carretera y todo y girar, y los aviones deben volar y, y todo y...» Y él: «Sí, vale, hecho.» Y lo hizo.

85. 22:25 – 22:25 🗣 Wieland

    [ríe]

86. 22:25 – 22:28 🗣 Wieland

    O sea, eso es realmente brutal.

87. 22:28 – 22:28 🗣 Jona

    Sí.

88. 22:28 – 22:36 🗣 Wieland

    Lo único que te-- O sea, lo único que realmente te limita es, [ríe] si tienes la suscripción de cien euros o la de doscientos.

89. 22:36 – 22:36 🗣 Wieland

    [ríe]

90. 22:36 – 22:46 🗣 Wieland

    Y como persona con la suscripción de cien euros, estadísticamente soy el plebeyo que no tiene la de doscientos para el cuádruple uso de la de cien.

91. 22:46 – 22:47 🗣 Jona

    Mhm.

92. 22:47 – 23:06 🗣 Wieland

    Pero eso me parece realmente brutal y noto en mí un poco, o sea, noto una fatiga de decisión. En realidad se describe la fatiga de decisión como cuando no les das, digamos, una cosa, sino muchísimas opciones, y ya no tienen ganas de elegir.

93. 23:06 – 23:06 🗣 Jona

    Sí.

94. 23:06 – 23:30 🗣 Wieland

    A veces es mejor darle a la gente solo unas pocas opciones o directamente ninguna. Porque a veces no quieren decidir cuando les das demasiadas opciones. Y algo parecido noto en mí, Jona. O sea, me doy cuenta de que, como en teoría podría hacerlo todo con IA, no me apetece hacer nada con IA. Sí, o sea, es así, es así, me doy cuenta.

95. 23:30 – 23:36 🗣 Jona

    Y como siempre, en cada Crunch Time, acabamos llegando a las preguntas filosóficas. Cierto.

96. 23:36 – 23:46 🗣 Wieland

    Bueno, y sobre todo también es un poco así, o sea, yo soy, yo soy, envidio o yo, o sea, me alegro por la gente que de verdad monta un negocio con ayuda de la IA.

97. 23:46 – 23:46 🗣 Jona

    Mhm.

98. 23:46 – 24:08 🗣 Wieland

    Porque puedo darte, puedo daros a ti y a vosotros un pequeño adelanto. O sea, puede que una amiga y yo estemos trabajando en algo en segundo plano, pero de verdad me pasa que pienso: quiero decir, lo hago en gran parte porque me divierte, pero ya no veo mercado para nada. O sea, pienso que lo que hacemos, tenemos, tenemos, no tenemos la llamada moda.

99. 24:08 – 24:09 🗣 Jona

    Sí.

100. 24:09 – 24:19 🗣 Wieland

     O sea, podemos hacer lo que hacemos y, en cuanto a alguien se le ocurre: «Eh, voy a hacer, me apetece hacer exactamente lo mismo, solo un dos por ciento mejor».

101. 24:19 – 24:19 🗣 Jona

     Sí.

102. 24:19 – 24:25 🗣 Wieland

     Entonces, en teoría, lo habrá hecho en una tarde, porque hoy en día los agentes de IA pueden hacer todo eso.

103. 24:26 – 24:42 🗣 Wieland

     Así que, o sea, ahí ca-, o sea, es, es, sí, estoy, estoy expectante, por así decirlo, por dónde irá la moda. O sea, temo o pienso un poco que, bueno, que la moda seguirán siendo el ser humano, la creatividad humana y el gusto humano.

104. 24:42 – 24:42 🗣 Jona

     Sí.

105. 24:43 – 24:54 🗣 Wieland

     ¿Entiendes? Porque yo pienso, o sea, en teoría cualquiera puede hacer hoy cualquier videojuego en muy poco tiempo. La única pregunta es: ¿es buena la idea?

106. 24:55 – 24:56 🗣 Jona

     Sí. [suspira]

107. 24:56 – 25:01 🗣 Wieland

     En principio, yo, yo, yo podría, si me apeteciera, hacer treinta juegos propios tipo Watch Dogs.

108. 25:02 – 25:02 🗣 Jona

     Sí.

109. 25:02 – 25:12 🗣 Wieland

     La pregunta es: ¿son mejores que los originales? [Risas] Lo son, lo son, si tengo ideas geniales y le ordeno a la IA que incorpore esas ideas geniales, y si no, pues no.

110. 25:13 – 25:15 🗣 Jona

     ¿Y qué se supone que te responda ahora? [Risas]

111. 25:15 – 25:21 🗣 Wieland

     Bueno, no tengo ni idea. ¿Qué, qué, qué piensas? ¿Qué piensas que va a pasar? O sea, no habría pensado que sucedería tan rápido. Y...

112. 25:21 – 25:21 🗣 Jona

     Sí.

113. 25:22 – 26:26 🗣 Wieland

     Y te digo una cosa: seguro que también has oído que últimamente todo ese rollo del doom de la IA de verdad estaba, por así decirlo, a la orden del día. Sobre todo con Neuralesis y todo eso. O sea, ahí hubo muchas fake news y al principio me había alegrado un poco de poder sentarme aquí en el Crunch Time y decirte: «Sí, Jona, ¿sabes?, en ese paper AI 2027 hay un punto de inflexión relevante de la trama: que, eh, todas las empresas de IA en algún momento dicen que las IA ya no están obligadas a verbalizar en inglés lo que piensan, sino que pueden pensar en vectores puros, con lo que pueden pensar mucho mejor, pero nosotros ya no podemos controlar lo que piensan». Y esa es una razón principal en esta historia ficticia por la que los humanos pierden el control sobre la IA. Y en realidad yo quería sentarme aquí ahora y decir: «Sí, ¿sabes?, y entonces OpenAI pensó: “Phörp, ya sé lo que vamos a hacer hoy”». [Risas] Pero no fue exactamente así.

114. 26:27 – 26:27 🗣 Jona

     Sí.

115. 26:27 – 26:28 🗣 Wieland

     Pero ya es

116. 26:29 – 26:37 🗣 Wieland

     brutal, que, o sea, yo creo que la aceleración ya se nota mucho. No habría pensado que se volviera tan bestia tan rápido.

117. 26:37 – 27:10 🗣 Jona

     Y al principio solo teníamos cosas así, así banales como: oh, ahí, es que ahora, entonces todavía iba más o menos sobre GPT-3 o algo así. Tú, tú quizá todavía te acuerdas de nuestra primera conversación sobre esto de verdad, cuando dijimos, cuando me explicaste: «Sí, pues puedes, pues tienes efectivamente una función que puede generarte texto en lenguaje natural de cierta manera». Sí, lol. [Risas] Hasta dónde ha llegado esto. Creo que necesito otro Business Month para pensar en ello. [Risas] Es así de intenso.

118. 27:10 – 27:30 🗣 Jona

     No, eh, uf, eso también se lo pone en principio extremadamente difícil a los desarrolladores, porque, porque al final tienes que controlar o corregir cada vez menos y menos. Que al final, de hecho, el, el código al final, no quiero decir que sea inútil, pero el código, eh, pero programar en realidad es inútil.

119. 27:31 – 27:31 🗣 Wieland

     Sí.

120. 27:31 – 27:59 🗣 Jona

     Porque es simplemente demasiado accesible enseñarle al ordenador lo que uno quiere y eso ya, ya, alcanza un nivel tan extremo, como la gente incluso ya se lo imaginaba en parte, la gente ingenua ya se lo imaginaba hace diez años, como cuando le digo algo al ordenador y él tiene que hacer exactamente eso ahora. Que de hecho ya se está a ese nivel, que simplemente al, al traductor, es decir, al desarrollador en ese caso, se le ha excluido por completo-

121. 27:59 – 28:00 🗣 Wieland

     Sí.

122. 28:00 – 28:01 🗣 Jona

     De ese proceso.

123. 28:01 – 28:17 🗣 Wieland

     Y sobre todo me parece fascinante, eh, si uno lo piensa, yo, o sea, antes uno siempre pensaba algo así como: vale, uno se imagina siempre esos, esos escenarios de Star Trek, donde ellos, en su nave, más o menos también tienen un ordenador superinteligente.

124. 28:17 – 28:17 🗣 Jona

     Sí.

125. 28:18 – 28:21 🗣 Wieland

     Eh, al que en teoría se le puede decir simplemente todo por voz.

126. 28:22 – 28:22 🗣 Jona

     Sí.

127. 28:22 – 28:28 🗣 Wieland

     Y hasta ahora la idea era siempre más o menos: vale, no es del todo así, porque hoy en día necesitamos centros de datos.

128. 28:28 – 28:28 🗣 Jona

     Sí.

129. 28:28 – 28:30 🗣 Wieland

     Así que no puedes ir por ahí cargando con un centro de datos.

130. 28:30 – 28:31 🗣 Jona

     Sí.

131. 28:31 – 29:03 🗣 Wieland

     Pero quiero decir, va cada vez más en la dirección de que, digamos, con un rack de servidores lleno de cierto hardware especializado, podrías hacerlo perfectamente. Así que si ahora quizá dejamos de lado las naves espaciales, ya está, y nos quedamos un poco, nos quedamos en la Tierra y hablamos, por ejemplo, de, de algo como los portaaviones. Que también, como una, una gran..., es como una gran nave espacial, solo que no en el espacio, sino en el mar, en el océano. Así, es absolutamente concebible que tengas un portaaviones.

132. 29:03 – 29:04 🗣 Jona

     Sí.

133. 29:04 – 29:17 🗣 Wieland

     Y tiene en algún sitio una sala de servidores, donde hay un rack con ese hardware especializado, y ese es efectivamente el único ordenador que queda allí. Y la gente simplemente habla con él todo el tiempo.

134. 29:18 – 29:18 🗣 Jona

     Sí.

135. 29:18 – 29:29 🗣 Wieland

     Que, en cierto modo, es lo que el ser humano siempre ha deseado del ordenador, solo que hasta ahora no había sido capaz de hacerlo. Creo que eso era más o menos lo que-

136. 29:29 – 30:03 🗣 Jona

     Pero eso también es siempre, eso también es siempre el punto de estas historias, para, para expresar también lo peligroso que puede ser. Por eso no, no sé si, cómo se puede clasificar eso así con los deseos. Y además, eso también es siempre un poco, yo, yo no quiero decir como una especie de punto argumental, pero también parte del lore, cómo, eh, cómo consigues entonces allí esas grandes cantidades de energía para hacer funcionar luego toda tu, tu tecnología. Creo que, en ese marco, también sería concebible tener realmente en algún sitio un rack de servidores.

137. 30:03 – 30:03 🗣 Wieland

     Sí.

138. 30:04 – 30:12 🗣 Jona

     Y eso con la, digamos, fu-fuente de energía arbitraria que el autor se ha inventado allí, para alimentarlo con ella.

139. 30:12 – 30:30 🗣 Wieland

     No, pero ahora me refería, por así decirlo, yo diría que a la sociedad en el pasado, digamos, ya se le prometió muchas veces, por así decirlo, lo que hoy poco a poco se está volviendo realidad en cuanto a la interacción con el ordenador. O sea, solo tienes, si pensamos en Siri-

140. 30:30 – 30:30 🗣 Jona

     Sí.

141. 30:31 – 30:50 🗣 Wieland

     O solo también, digamos, a la, a la misma, quiero decir, incluso la línea de comandos era, por así decirlo, más o menos un: «Oye, mira, puedes, o sea, no, simplemente interactúas con el ordenador, pero tienes que usar una modalidad concreta. Tienes que hablar su idioma». Así, y nos movemos cada vez más hacia poder simplemente hablar con el ordenador.

142. 30:51 – 31:06 🗣 Jona

     Correcto. Y con el monitor, el escritorio y todas las analogías del escritorio que eso trajo consigo, al final ocurrió exactamente lo mismo: oh, ahora tienes una manera mucho más intuitiva de interactuar con el ordenador, tal como ya llevas todo este tiempo deseando. No solo: ah, vale, ahora tienes que-

143. 31:07 – 31:23 🗣 Jona

     O sea, tienes que memorizarte todos los comandos y, además, ejecutarlos en el orden correcto para que entonces puedas hacer exactamente XY esto y aquello. Y al final, en aquel entonces, ese pequeño paso también lo habían deseado ya, pues, muchos, muchísimos, porque simplemente a día de hoy todavía resulta molesto y precisamente por eso existe la innovación.

144. 31:23 – 31:29 🗣 Wieland

     Por eso. Bueno, tengo que decir que la aceleración es muy brutal ahora mismo y...

145. 31:29 – 31:40 🗣 Jona

     Y también que haya modelos que puedan dar resultados útiles en, eh, dispositivos finales. Probablemente sea también uno de los mayores puntos de inflexión.

146. 31:40 – 31:47 🗣 Wieland

     Sí, pero lo que también me parece muy bueno en ese sentido es que, para mí como programador, este mes ha sido realmente la verdad un sueñito.

147. 31:48 – 31:48 🗣 Jona

     Sí.

148. 31:48 – 32:17 🗣 Wieland

     Porque pienso: bueno, me parece bien no tener que cargar conmigo un modelo de lenguaje entero que pueda hacer muchas cosas o todas. Pero si en realidad digo: en realidad solo quiero un modelo de lenguaje que sepa detectar discurso de odio, porque en realidad eso es lo mío, eso es lo mío. Y no tiene sentido que el usuario se descargue ahora cuatro coma cinco gigabytes de modelo de lenguaje en el móvil y luego lo tenga ahí corriendo solo para que pueda hacer esa única cosa específica.

149. 32:17 – 32:17 🗣 Jona

     Sí.

150. 32:17 – 33:03 🗣 Wieland

     Bueno, por eso es súper guay. Y también con Jeff, como decía, tengo, tengo curiosidad, eh, por todo lo que aún se puede hacer. También tengo algunas cosas propias planeadas, lo que se puede hacer con esto. Pero un ejemplo de lo brutal que es todo esto con, em, las IA yendo realmente a por todas para cumplir su tarea es: le pregunté accidentalmente a ChatGPT, en el modo Work en la web, no en Codex, en la web, pero en modo Work: «Oye ChatGPT, en Minecraft con los generadores de pruebas, ¿podría hacer algo en un paquete de datos o algo así para activarlos, aunque no puedan ver a un jugador?»

151. 33:04 – 33:04 🗣 Jona

     Mhm.

152. 33:04 – 33:13 🗣 Wieland

     Em, y yo pensé: bueno, Chatty ahora va a mirar en internet, buscar en Reddit y leer las páginas de la wiki de Minecraft.

153. 33:13 – 33:14 🗣 Jona

     [risas] Sí.

154. 33:14 – 33:17 🗣 Wieland

     ¿Sabes exactamente lo que hizo para poder responder a mi pregunta?

155. 33:17 – 33:18 🗣 Jona

     No.

156. 33:18 – 33:32 🗣 Wieland

     Se descargó Minecraft, la versión de desarrollo, que ya no está ofuscada, y miró en el código cómo funciona el generador de pruebas. Porque la wiki, la wiki podría ser imprecisa.

157. 33:33 – 33:34 🗣 Wieland

     Sí, LOL. [risas]

158. 33:34 – 33:39 🗣 Wieland

     Bueno, y luego dice: «Sí, sí, ya lo he consultado. Esto es así y así. Con seguridad.»

159. 33:39 – 33:42 🗣 Jona

     Y con seguridad es, pues, literalmente, sí, así está en el código.

160. 33:42 – 33:43 🗣 Wieland

     Sí, exacto.

161. 33:43 – 33:43 🗣 Jona

     Diviértete, sí.

162. 33:44 – 33:46 🗣 Wieland

     Bueno, eso, eso es, eso es realmente salvaje.

163. 33:46 – 33:46 🗣 Jona

     Sí.

164. 33:46 – 33:55 🗣 Wieland

     O sea, de verdad, todos infrautilizamos la IA. Ahora incluso yo. Incluso yo no aprovecho bien el potencial que ya existe.

165. 33:55 – 33:55 🗣 Jona

     Sí.

166. 33:55 – 34:34 🗣 Wieland

     Sí, bueno, pero en cierto modo creo que la aceleración ya se nota mucho ahora. Solo por cuántos y con qué frecuencia cada vez mayor salen nuevos modelos de IA. O sea, antes normalmente teníamos siempre como tres, cuatro meses entre los modelos principales y ahora, se siente, o sea, ya conozco YouTubers que hacen cada día un vídeo donde resumen las últimas novedades sobre modelos de IA. Claro, también hay muchos rumores y eso, pero al final cada semana salen dos o tres nuevos modelos de IA, modelos de IA frontera.

167. 34:34 – 34:34 🗣 Jona

     Mhm.

168. 34:34 – 34:41 🗣 Wieland

     Y como decía, yo estoy, siento que estamos realmente muy cerca de la singularidad, y tengo mucha curiosidad por ver adónde llegará aún todo esto.

169. 34:42 – 35:42 🗣 Jona

     Todavía tengo dos temitas de vigilancia, que al final también enlazan con temas pasados de la época de crunch. Porque se trata, por un lado, de los robotaxis de Waymo, que ahora han empezado a denunciar a la policía contenidos u objetos, digamos, criminales que suceden dentro de sus robotaxis. De hecho, ya han detenido a dos adolescentes en Estados Unidos que habían estado manipulando un arma ahí dentro. Y sí, eso ha hecho que vuelva un poco a resurgir la controversia de: vale, ¿qué se vigila exactamente y cómo se procesa exactamente? Y sobre eso ya hablamos también con los Teslas autónomos, sobre lo que las cámaras, no solo las interiores, sino también las exteriores, pueden grabar en principio y qué

170. 35:43 – 36:38 🗣 Jona

     todo lo que hay ahí. Hace unos meses también estuvo la problemática de las Meta Smart Glasses, donde eso, digamos, llegaba también relativamente sin filtrar a empleados de Meta, y uno podía ver realmente contenidos explícitos y momentos privados de los compradores correspondientes. Pero eso fue hace unos meses, quizá incluso medio año. Y justo sobre el tema de las Smart Glasses ya hablamos también, digamos, de esa anotación de personas estilo Watch Dogs, como la llamo ahora. Y algo así existe ahora también en Facebook, o Meta, como se quiera llamar. Y ahí hay, digamos, hubo, digamos, también una controversia donde había datos anotados de posts, donde también datos privados de la persona correspondiente se publi-

171. 36:38 – 36:54 🗣 Jona

     caron. Ahí había, concretamente de Meta AI, una pregunta: «Oh, ¿conoce a este niño, el de la derecha?». Seguro que también viste el post o la cobertura al respecto, donde tú entonces el,

172. 36:55 – 37:19 🗣 Jona

     donde podías desplegar el acordeón y ahí aparecía legítimamente información personal de la madre y, creo, de ella y de su hijo, es decir, con dirección anterior y actual y nombres, con nombre completo, nombre y apellido del niño, etc. Meta también recibió bastante por eso.

173. 37:19 – 37:22 🗣 Wieland

     Pero ¿me puedes decir otra vez?

174. 37:22 – 37:22 🗣 Jona

     Mhm.

175. 37:22 – 37:24 🗣 Wieland

     O sea, no sé si me acuerdo bien.

176. 37:25 – 37:25 🗣 Jona

     Sí.

177. 37:25 – 37:37 🗣 Wieland

     Creo que, eh, lo que pasó fue que eso más bien expuso que, en realidad, toda esa información ya era más o menos accesible.

178. 37:37 – 37:37 🗣 Jona

     Correcto.

179. 37:37 – 37:38 🗣 Wieland

     si lo entendí bien-

180. 37:38 – 37:39 🗣 Jona

     Exacto.

181. 37:39 – 37:49 🗣 Wieland

     —eh, eso solo funcionó porque Meta AI accedía a cosas que estaban disponibles en otras publicaciones de la familia.

182. 37:49 – 38:06 🗣 Jona

     Correcto. A que, naturalmente, tenía acceso a eso y lo analizaba. Correcto, eso sería justo lo siguiente que habría abordado. Lo has resumido muy bien. Sí, que Meta lo recopiló y también puede procesarlo en tales dimensiones.

183. 38:06 – 38:19 🗣 Wieland

     Pero no, me refería ahora a que, en principio, son informaciones que cualquier persona que simplemente mire las publicaciones de esa cuenta también podría, digamos, reconstruir.

184. 38:19 – 38:20 🗣 Jona

     Eso no quiere decir necesariamente eso.

185. 38:21 – 38:21 🗣 Wieland

     Vale.

186. 38:21 – 39:10 🗣 Jona

     Porque Meta también recopila por su cuenta una cantidad extrema de datos, lo cual, naturalmente, también es su modelo de negocio. Y hay suficientes cosas que tú no puedes captar. Claro, de las imágenes, los posts, y también de las marcas de tiempo y las descripciones puedes sacar muchísimo, eso está claro. Y otra persona también podría deducir muchísimo de tu vida. Pero no podrás llevarlo, digamos, a ese nivel de confianza que Meta tiene, sobre todo si además tiene todo tu historial de ubicación, etc. Pero sí, podrías... o sea, tienes razón: como alguien externo también podrías inferir ya una cantidad extrema de datos. Pero creo que eso debería ser consciente para cualquiera que esté en redes sociales, aunque definitivamente no lo es.

187. 39:10 – 39:34 🗣 Wieland

     Y me parece, además, que es otra vez un ejemplo; por eso quería asegurarme de que realmente es un ejemplo de eso: de que algo recibe palos o se discute de forma controvertida porque simplemente presenta datos que ya estaban disponibles todo el tiempo de una manera que ahora la gente nota: «Oh, estos datos están disponibles».

188. 39:34 – 39:38 🗣 Jona

     Sí, donde ahora se convierte en un problema de verdad legítimo.

189. 39:38 – 39:39 🗣 Wieland

     Sí.

190. 39:39 – 39:48 🗣 Jona

     Y no: «Ah, bueno, vale, mis datos se usan mal». Quizá debería uno decir simplemente: «Ah, bueno, ahí se puede mucho...»

191. 39:49 – 39:52 🗣 Jona

     Que entonces, digamos, ya no se puede pasar por alto.

192. 39:52 – 39:52 🗣 Wieland

     Sí.

193. 39:52 – 40:03 🗣 Jona

     Que al principio uno era simplemente ignorante y lo aceptaba o lo toleraba así. Y sí, bueno, ¿pero ahora tenemos que hacer algo de verdad contra Meta o Google?

194. 40:03 – 40:04 🗣 Wieland

     Mhm.

195. 40:04 – 40:17 🗣 Jona

     Bueno, no tiene por qué ser necesariamente así. Al final yo también lo uso muchísimo y tú acabas encontrando solo excusas para ti. ¿Entiendes? Y luego, cuando se convierte de verdad en un problema real, sí, entonces mucha gente se indigna por ello.

196. 40:18 – 40:19 🗣 Wieland

     Como digo, si ahora me dices que eso—

197. 40:19 – 40:21 🗣 Jona

     Pero entonces, como digo, ya es demasiado tarde.

198. 40:21 – 40:22 🗣 Wieland

     Sí, claro, pero—

199. 40:22 – 40:28 🗣 Jona

     El punto es que en realidad lo recopilan y lo procesan, y no cómo lo han mostrado ahora.

200. 40:28 – 40:40 🗣 Wieland

     No, exacto. Pero el asunto es: si ahora me dices que, aun así, en este caso Meta AI trabajó con datos internos, o sea, cosas que no simplemente estaban disponibles en las publicaciones públicas—

201. 40:40 – 40:40 🗣 Jona

     Sí.

202. 40:40 – 40:46 🗣 Wieland

     —sino que el modelo de Meta, que naturalmente está en el backend, tiene acceso interno a todo.

203. 40:46 – 40:46 🗣 Jona

     Sí.

204. 40:46 – 41:00 🗣 Wieland

     Habría— Y quizá lo hicieron por buenas razones, o sea, por— quizá tenían una idea, pero al parecer, por ignorancia, lo configuraron de modo que la Meta AI pública, a la que puedes preguntar cosas sobre las publicaciones de una persona—

205. 41:00 – 41:00 🗣 Jona

     Correcto.

206. 41:01 – 41:10 🗣 Wieland

     —tiene ante sí el contexto de todos los datos que Meta tiene sobre esa persona. No solo los datos que también se podrían ver públicamente en el perfil.

207. 41:11 – 41:24 🗣 Jona

     Sí, hasta donde yo sé, es el caso. Claro que seguro estará limitado, que quizá no son todos, todos los datos, digamos, no al cien por cien. Pero definitivamente también hay acceso a datos no públicos incluido.

208. 41:24 – 41:44 🗣 Wieland

     Exacto, porque algo parecido que pasó este mes, y que me lo recordó muchísimo y también me hizo recordar todo mi—, no, también con OpenStreetMap a veces hay controversias así, que se discuten siempre. No sé si has oído hablar de todo este proyecto, de God's Eye View.

209. 41:44 – 41:45 🗣 Jona

     No, todavía no.

210. 41:45 – 41:58 🗣 Wieland

     O sea, un desarrollador simplemente lanzó, entre comillas, un programa o, más o menos, una aplicación de mapas con un aspecto muy cool; al final lanzó una aplicación de mapas—

211. 41:58 – 41:58 🗣 Jona

     Sí.

212. 41:58 – 42:14 🗣 Wieland

     —donde simplemente reúne en un solo lugar cantidades masivas de APIs públicas sobre cosas del mundo real. Por ejemplo, radar de vuelos, cámaras de CCTV de acceso público.

213. 42:14 – 42:14 🗣 Jona

     Sí.

214. 42:15 – 42:38 🗣 Wieland

     Rutas de acceso público de cosas militares, eh, y todo lo posible que se puede consultar públicamente. Y ahí también había, digamos, una— Y uno notaba un poco que él también se había resignado un poco, porque al principio todavía intentaba explicarlo de alguna manera, porque muy, muy a menudo salía la pregunta: «Sí, pero ¿eh, eh, no, tienes permiso para eso?»

215. 42:39 – 42:41 🗣 Wieland

     O sea, ¿está permitido eso? O sea,

216. 42:42 – 42:58 🗣 Wieland

     por qué así y también: «Uf, brutal, este tipo logra lo que todos nuestros servicios secretos no logran». O sea, porque, da igual cuántas veces lo dijera, la gente no captaba que es simplemente una herramienta de visualización de datos que siempre han sido públicos.

217. 42:59 – 42:59 🗣 Jona

     Sí.

218. 42:59 – 43:30 🗣 Wieland

     Y la gente no lo captó y tú— y notas de algún modo, y quiero decir, yo también lo entiendo, porque eso naturalmente lo hace parecer más cool. En algún momento él realmente, digamos, se rindió, se dejó llevar, porque sé— él dijo en una entrevista: «Sí, o sea, muy importante: he trazado la línea en que con mi herramienta no se puede rastrear a personas. He decidido integrarlo así, que ahí pongo el límite». Y yo pienso: «No has trazado ninguna línea. Simplemente no hay una API pública donde puedas obtener datos de personas».

219. 43:31 – 43:33 🗣 Wieland

     Sí. [ríe]

220. 43:33 – 43:37 🗣 Wieland

     O sea, no sé a qué venía eso, pero me parece que es, otra vez, una de esas cosas—

221. 43:38 – 43:38 🗣 Jona

     Sí.

222. 43:38 – 43:55 🗣 Wieland

     —donde, digamos, ahora todos estos temas de IA exponen un poco, similar a como David Grisel ya lo hizo hace muchísimo con el Spiegel, donde luego se decía: «Sí, no, posiblemente incluso podrías averiguar quién tiene algo con quién en la redacción».

223. 43:56 – 43:56 🗣 Jona

     Sí.

224. 43:56 – 44:06 🗣 Wieland

     O sea, luego dice: «¿Eh? ¿Puedes hacer eso? ¿Los has hackeado o cómo lo sabes?». Y él: «No, puedo leerlo de los datos disponibles públicamente».

225. 44:07 – 44:07 🗣 Jona

     Sí.

226. 44:07 – 44:07 🗣 Wieland

     O sea.

227. 44:08 – 45:28 🗣 Jona

     No, eso es, sí, pero eso, eso tiene que, al parecer nadie te dice que, sí, eso en sí también, si ahora ya hemos hablado del trabajo de los servicios secretos, que en realidad en gran parte, o sea, como un noventa, noventa y cinco por ciento, también es una especie de procesamiento de datos, que se basa en datos típicos de fuentes abiertas, digamos, eh, donde simplemente dices: «Sí, vale, puedes comprar cosas tú mismo, eh, o comprarlas directamente, o simplemente seguir procesando datos públicos para ti». Y eso es, al final, la mayor parte, digamos, del trabajo, y al final, naturalmente, sigues teniendo un diez por ciento de travesuras picantes, digamos, pero eso también sigue siendo trabajo de servicios secretos, y la gente se imagina que el diez por ciento constituye más bien el noventa por ciento, y no al revés. Y eso es un poco desproporcionado. Sí, muy bien, pero eso lo apunté directamente y también le echaré un vistazo a lo que se puede hacer con ello. No sé si, qué, qué APIs hay todavía que se podrían integrar ahí, aparte de transporte público, eh, vuelos, barcos al parecer, mapas, claro. No sé, ¿hay cámaras de acceso público en Chemnitz y cuántas son?

228. 45:28 – 45:29 🗣 Wieland

     No, no, no. Que yo sepa—

229. 45:29 – 45:29 🗣 Jona

     Eso ya es—

230. 45:29 – 45:45 🗣 Wieland

     —que yo sepa, al menos no. Pero como digo, puedes deducir muchísimo de forma implícita. Por ejemplo, sí, como ya vimos con Transitions, solo de los datos en tiempo real del transporte público, en teoría puedes deducir dónde está un autobús ahora mismo.

231. 45:46 – 45:46 🗣 Jona

     Sí.

232. 45:46 – 45:47 🗣 Wieland

     Por ejemplo.

233. 45:47 – 45:51 🗣 Jona

     Y así se puede rastrear de hecho a personas como el conductor del autobús.

234. 45:51 – 45:51 🗣 Wieland

     Sí.

235. 45:52 – 45:53 🗣 Jona

     En cierto modo, sí.

236. 45:53 – 45:58 🗣 Wieland

     O también puedes, a partir de retrasos que en teoría surgen de la nada—

237. 45:59 – 45:59 🗣 Jona

     Sí.

238. 45:59 – 46:02 🗣 Wieland

     —quizá deducir un poco dónde hay atascos ahora mismo.

239. 46:02 – 46:02 🗣 Jona

     Sí.

240. 46:02 – 46:04 🗣 Wieland

     Solo con los datos del transporte público.

241. 46:04 – 46:04 🗣 Jona

     Sí.

242. 46:04 – 46:27 🗣 Wieland

     Y eso es, sí, bueno, por ejemplo, sí, también algo como, o sea, lo que yo tampoco sabía, por ejemplo, creo que también publica, eh, por ejemplo también hay en vivo, eso es más bien relevante para América. Hay datos en vivo para todo el mundo sobre incendios forestales que puedes integrar. Hay datos en vivo, o sea, cada día ocurren muchísimos terremotos, solo que normalmente son débiles y de ellos no nos enteramos.

243. 46:27 – 46:27 🗣 Jona

     Sí.

244. 46:27 – 46:30 🗣 Wieland

     Pero también hay feeds en vivo que puedes integrar todos. O sea.

245. 46:30 – 46:30 🗣 Jona

     Uy.

246. 46:31 – 46:34 🗣 Wieland

     También hay datos en vivo sobre por dónde vuelan los satélites.

247. 46:34 – 46:35 🗣 Wieland

     Cierto,

248. 46:35 – 46:39 🗣 Wieland

     que están disponibles públicamente. Y sí, todo eso es posible.

249. 46:40 – 47:32 🗣 Jona

     Ah, Wieland, el episodio se va acercando poco a poco de nuevo a su final. Hemos hablado muchísimo y muy intensamente sobre la IA, eh, porque, como ya dijimos, los avances se han sucedido de forma tan extrema que al final han eclipsado por completo a casi todos los demás temas. Así se ha reflejado también un poco en el Crunch Time. Exacto, este ha sido el octogésimo cuarto episodio de Crunch Time. Es un pódcast de tecnología en el que hablamos de todos los temas de TI y, de vez en cuando, también de las novedades del campus de la TU y de lo que va evolucionando en nuestra vida personal y en nuestro entorno técnico personal, por así decirlo. Wieland, si alguien se ha conectado un poco tarde al episodio actual, ¿dónde puede volver a escucharlo?

250. 47:32 – 48:00 🗣 Wieland

     Los episodios de Crunch Time se pueden escuchar allí donde se consiguen pódcast, es decir, por supuesto en Spotify, en YouTube y en Apple Music; pero también hay un feed RSS que se puede consultar en podcast.radio-unique.de. Y en nuestra web radio-unique.de siempre se encuentra un artículo con el episodio y las notas del programa, para que quien quiera pueda escuchar todo nuestro catálogo.

251. 48:01 – 48:05 🗣 Jona

     Muy bien. ¿Y cuándo se emite nuestro próximo episodio de Crunch Time?

252. 48:05 – 48:08 🗣 Wieland

     Pues, como siempre sale el cuarto domingo del mes...

253. 48:09 – 48:09 🗣 Jona

     Cierto.

254. 48:09 – 48:23 🗣 Wieland

     -a las dieciocho horas, y en nuestro próximo episodio también será así, por supuesto. Y en este caso es el 25 de octubre de 2026. Si os conectáis a las dieciocho horas, escucharéis el octogésimo quinto episodio de Crunch Time.

255. 48:23 – 48:25 🗣 Jona

     Espero que nos volvamos a escuchar. Hasta pronto.

256. 48:26 – 48:26 🗣 Wieland

     Chao.

257. 48:33 – 48:33 🗣 Wieland

     [jingle final]

258. 48:33 – 48:39 🗣 Wieland

     Esto ha sido Crunch Time, una producción de Radio Unique.

Zuletzt aktualisiert am 1

1. 00:00 – 00:07 🗣 Wieland

   رادیو یونیک تقدیم می‌کند [موسیقی پس‌زمینه] کرانچ تایم.

2. 00:10 – 00:12 🗣 Wieland

   با یونا و ویلند.

3. 00:13 – 00:24 🗣 Wieland

   سلام به همه‌ی عزیزان آن بیرون و خوش آمدید به هشتاد و چهارمین قسمت برنامهٔ کرانچ تایم، جشن هفت‌سالگی ما. هفت سال است که من، ویلند،

4. 00:24 – 00:25 🗣 Jona

   و من هم، یونا.

5. 00:25 – 00:44 🗣 Wieland

   در هر چهارمین یکشنبهٔ هر ماه، تازه‌ترین خبرها از دنیای فناوری را با خود داریم و گاهی هم سری به پردیس دانشگاه TU می‌زنیم و از ماجراهای فنی شخصی خودمان می‌گوییم. امروز هم دوباره یک ساعت خوب و دلچسب برایتان آماده کرده‌ایم، پر از، خب، بگذارید این‌طور بگویم، اخبار و تحلیل‌های آن‌ها از دنیای فناوری. یونا، تو هم برایمان تعریف کن.

6. 00:45 – 01:10 🗣 Jona

   باید یک لحظه جلوی چشممان بیاوریم که در دنیای فناوری در این هفت سال گذشته چقدر تغییر کرده است. میدانی، امروز تازه خودم هم متوجه این موضوع شدم. صبر کن، تقریباً هر هفته حداقل یک خبر تازه بیرون میآید که میگوید باشه، شرکت بزرگ فلان در آمریکا با این اکسپلویت مبتنی بر هوش مصنوعی هک شده است.

7. 01:10 – 01:10 🗣 Wieland

   هوم.

8. 01:10 – 03:45 🗣 Jona

   و این موضوع در آن مورد هم پیامدهای شدیدی داشت. اوه، دادههای مشتریان هم داخلش بود یا دادههای خاص پرسنلی، بعضی کدبیسهای مخفی، جایی که شدت ماجرا بهقولی واقعاً خیلی زیاد میشود. و حالا دیگر عادی شده که تقریباً هفتهای یکبار خبرهای بزرگ از این دست بیرون بیاید؛ مثل این که اوه، متا به این شکل هک شد و البته خیلی سریع هم آن را برطرف کردند. و پیش از این که وارد جزئیات خاصی شویم، فقط میخواستم بگویم که چقدر سخت است که آدم بخواهد از اینها عقب نیفتد. البته الان نه برای ما. در نهایت برای ما کموبیش بیربط است، جز این که خودمان شخصاً علاقهمندیم بدانیم چطور چیزی اتفاق افتاده؛ بلکه بیشتر کل فرایندهایی که با آن مرتبطاند. این که شرکتها حالا باید بهشدت انرژی زیادی صرف کنند تا همیشه عقب ماجرا را بگیرند، در عرض چند ساعت برای سیستمهای خاصی فیکس منتشر کنند، چه رسد به این یا آن فرایند بوروکراتیک. چون اگر این ماجرا در یک شرکت آلمانی اتفاق بیفتد، طبعاً اینطور میشود: اوه، قدم یک، اول باید دنبال پروتکل امنیتیات بگردی، چکلیستات برای چنین موردی. و در حالت ایدهآل از قبل چنین چیزی داری، بگذار اینطور بگوییم. بعد طبعاً باید مسئول حفاظت از دادههایت هم مطلع شود. او هم باید به سازمان نظارت بر حفاظت از داده اطلاع بدهد و آن سازمان در نهایت اول از همه خودش کار انتقال اطلاعات را انجام میدهد. یعنی آنها تصمیم میگیرند که ماجرا چقدر جدی و بد است و در صورت لزوم ارتباط با کارکنان آسیبدیده را هم برقرار میکنند، مثلاً وقتی بحث دادههای پرسنلی باشد، آنها را مطلع میکنند، نه خود شرکت، تا جایی که میدانم. در حالی که تو بهعنوان شرکت باید مدام بجنگی و فکر کنی: باشه، بگذار ببینم، آه، اصلاً ریشهاش کجاست؟ کدام نسخه را میتوانیم، از کدام سیستمها میتوانیم برگردانیم؟ و طبعاً باید همه کلیدها را فوراً عوض کنی، یعنی همه کلیدهای SSH، هر کلید ورود دیگر، رمزها، هر چیزی باید بلافاصله جایگزین شود. و این در مقایسه با این که حالا چقدر آسان شده، واقعاً زیاد است؛ آسان از این جهت که آدم باید مثلاً کمتر از سه هزار دلار، مثل مثال بعدی، خرج کند تا یک سری شرکتهای بزرگ و نامآشنا را هک کند.

9. 03:45 – 03:45 🗣 Wieland

   هوم.

10. 03:46 – 04:00 🗣 Jona

    و این طبعاً با پولی بود که در Cloud صرف توکن کرده بودند. انتشار، ام، این مشکل امنیتی زیر مستقیماً با کامیک یا پنل کامیک XKCD شروع شد.

11. 04:01 – 04:01 🗣 Wieland

    بله.

12. 04:01 – 06:37 🗣 Jona

    همان که اینترنت و بیشتر نرمافزارها فقط به دست یک نفر تصادفی از نبراسکا کمی سرهمبندی شده، نگه داشته میشود، کسی که در ۲۰۰۶ یه پروژه تصادفی را انجام داده بود. و دقیقاً همین طور مشروع/بهحق در نهایت به یک آسیبپذیری تبدیل شد. خوب، هر اسمی که بخواهی، یک پژوهشگر امنیتی به نام Sirius که کمی در OpenAI... نه، آنها تمیزکاری نکردند. آنها در نهایت فقط یک Pull Request در Git داخلی منتشر کردند تا کمی توجه را جلب کنند. چون در نهایت انجمن Discourse را هک کردند، همان که OpenAI میزبانی میکند. و آن هم باید به نحوی تصاویر را پردازش کند، چون یک انجمن است. و آنجا یک کتابخانه بسیار قدیمی C وجود دارد، ام، LibHEIF، هر طور که تلفظ میشود، برای یک فرمت معمول تصویر و ویدیو است، شاید بشناسی. و همانجا یک heap overflow وجود دارد که میتوانی تحریکش کنی. یعنی میتوانی یک فایل تصویری در انجمن آپلود کنی که دستکاری شده است. یعنی در واقع به آن کدک میگویی دو تصویر را روی هم بگذارد و با حالتهای ترکیب مختلف و غیره؛ حتماً در یک ویرایشگر تصویر دیدهای. و آنجا میتوانی یک offset هم بدهی، یعنی تصویری که روی قبلی میگذاری چقدر به چپ، راست، بالا و پایین جابهجا شود. و طبعاً میتوانی اعداد منفی وارد کنی، طوری که مثلاً تصویر رویهم را با دادن مختصات X منفی از لبه تصویر به چپ بیرون بدهی. سیستم هم واقعاً این را میپذیرد، اما در پردازش بعدی، جایی در نهایت یک cast اتفاق میافتد، همان طور که در C میشناسی، از signed integer به unsigned integer. یعنی یک عدد منفی کوچک، مثلاً منهای پنجاه، که میخواهی تصویر را به آن اندازه جابهجا کنی، بلافاصله به آن چهار میلیارد و دویست میلیون معروف تبدیل میشود، وقتی در نهایت آن signed integer را به unsigned تبدیل کنی و بعد کتابخانه تلاش میکند در جایی از حافظه بنویسد که اصولاً اصلاً مال آن نیست. و طبعاً سیستمهایی وجود دارند که جلوی این را میگیرند، اما میتوان از آنها دور زد، طوری که واقعاً Remote Code Execution داشته باشی.

13. 06:37 – 08:24 🗣 Jona

    و با همین Remote Code Execution روی سرورهای OpenAI توانستند ادامه بدهند و بگویند: «بیا، حالا همانطور که همین حالا هم استفاده میکنیم، از Claude 4.8، Claude Opus 4.8، بهتر است درست بگویم، استفاده میکنیم و همچنان دنبال یک باگ در سیستم ورود میگردیم.» و واقعاً مدت زیادی گشتند، اما چیزی پیدا نکردند. چند ساعت بعد [میخندد] Claude Opus 5 بیرون آمد و با آن ماجرا در، نمیدانم، دو سه ساعت تمام شد، طوری که در Single Sign-on شرکت OpenAI هم توانستند یک آسیبپذیری پیدا کنند؛ به این ترتیب در نهایت چندین، بگویم، بخش بسیار زیادی بود که آنها را مثل زنجیر به هم وصل کردی و بعد دسترسی کامل داشتی. چون موضوع این بود که طبعاً ایمیلهای کارکنان OpenAI هم افشا/آسیبپذیر شده بود و تو از این طریق به همه چیز دسترسی داشتی. اسلک هم بود، Git داخلی و دیگر سیستمهایی که استفاده میکنند، دادههای کارکنان، هر چیز ممکن. و بعد آن، بگویم، پژوهشگر امنیتی اسلش هکر، هر چه، گفت: «آره، باشه، بیا، من فقط یک Pull Request میسازم. بفرمایید، نگاه کنید چه چیزی آنجاست»، با همین لحن. اما واقعاً فقط شش هزار و پانصد دلار بهعنوان Bug Bounty برای این کار گرفت، که واقعاً برای چنین چیزی نسبتاً کم است. و دلیلش این بود که آنها فقط برای باگ Single Sign-on به او پاداش دادند، چون تو بهعنوان شرکت نمیتوانی همیشه برای پروژههای نرمافزاری که خودت فقط از آنها استفاده میکنی، Bug Bounty بپردازی.

14. 08:24 – 08:24 🗣 Wieland

    بله.

15. 08:24 – 09:59 🗣 Jona

    این که نمیشود، چون... آخه کجا میرسی اگر هر شرکتی که از یک کتابخانه استفاده میکند، مستقیم مجبور باشد برای پژوهشگر امنیتی در مجموع چند میلیون آنجا بگذارد؟ آن هم به شکلی بیمعنی بود. برای همین طبعاً خارج از دامنه بود. البته خبر خیلی بزرگی هم بود. فقط میخواستم این را کمی برایتان بازتر گفته باشم. این اغلب به فهم چنین زنجیرههای پیچیدهای هم کمک میکند. دقیقاً، و این فقط یک مثال بود برای وضعیت فعلی، این که مدیریت همه اینها در دنیا کمی سخت خواهد بود. و آدم همچنان زیاد از Sandbox Escapeها میخواند. ما دربارهشان قبلاً هم در Crunch Time صحبت کرده بودیم. و واقعاً بیشترشان فقط تا حدی جلوگیری میشوند. اگر حالا نگاه کنی، اوه، باشه، ام، Claude Opus 5.5 با محدودیتهای امنیتی اضافه بیرون آمد. اما در اصل منظور فقط Sandbox Escape است، نه این که مدل چقدر باکفایت میتواند عمل کند. آن طبعاً کاملاً جداست و در نهایت به هر حال فقط همان بازی گربه و موش را داری؛ بین این که آره، تو هم باید، باید به نحوی بتوانی با هوش مصنوعی آسیبپذیریها را تشخیص بدهی، چه طرف خوب باشی چه طرف بد. اگر داخل شرکت کار کنی و خودت بهطور مشروع دنبال آسیبپذیری بگردی، و آن آدم بیرونی که در شرکت تو هم دنبال آسیبپذیری میگردد. و به هر حال شما نمیتوانید ابزارهای متفاوتی برای این کار داشته باشید.

16. 09:59 – 10:00 🗣 Wieland

    بله.

17. 10:00 – 10:31 🗣 Jona

    این، این جوری نمیشود، بلکه آره، به هر حال هیجانانگیز خواهد بود. و این طبعاً فقط یکی از آن صدها مورد بود، فقط یک مثال برای این که اینجا نشانش بدهیم. و آره، دو روز پیش هم اطلاعات کاملاً تازهای بیرون آمد، اما شاید بهتر است اول صبر کنیم و ببینیم تا وقتی وضعیت اطلاعات کمی آرامتر شود و بتوانیم واقعاً چیزی دربارهاش، ام، گزارش کنیم. اما باور نمیکنم که این موج آسیبپذیریهای امنیتی تمام شود.

18. 10:32 – 10:56 🗣 Wieland

    آره، یونا، برای من هم ماه گذشته تا حدی با مدل‌های هوش مصنوعی نسبتاً کوچیک‌تر شکل گرفته بود، یا بهتره بگم مدل‌هایی که اون‌قدرها هم روی مرز پیشرو نیستن، بلکه شاید یه کم عقب‌ترن، ولی با این حال خیلی باحالن. اولین چیزی که حس می‌شد همه درباره‌ش حرف می‌زدن،

19. 10:57 – 11:34 🗣 Wieland

    که اولش فکر کردم، اوه، این یه موضوع حاشیه‌ایه که هیچ‌کس بهش علاقه نداره، ولی بعد یهو همه درباره‌ش حرف زدن، جفه، ولی با املای J-E-V، نه، اون جف تبلیغ Treff Punkt achtzehn DE نیست. آره، دقیقاً، جف یه مدل هوش مصنوعیه که منتشر شده، مالکیتی/اختصاصیه، ولی توش یه تکنیک جالب استفاده شده که باعث می‌شه این مدل هوش مصنوعی متنی تولید نکنه، بلکه فقط می‌تونه از بین گزینه‌هایی که تو از قبل بهش می‌دی انتخاب کنه. و همین باعث می‌شه خیلی سریع و خیلی ارزون باشه.

20. 11:34 – 11:34 🗣 Jona

    آره.

21. 11:34 – 12:13 🗣 Wieland

    به خاطر اینکه همه تصمیم‌ها، یعنی تصمیم‌ها باید همه مستقل از هم باشن، ولی خب می‌تونن تقریباً هر تعداد دلخواهی باشن. یعنی فکر می‌کنم از نظر فنی به دویست و پنجاه و شش محدود شده، ولی خب می‌تونن تصمیم‌های زیادی هم‌زمان باشن، سؤال‌های زیادی که می‌تونی درباره ورودی‌ت، درباره وضعیتت بپرسی و، اوم، جواب‌ها همه موازی تولید می‌شن. برای همین فوق‌العاده سریعه و از اون طرف فوق‌العاده ارزون. یعنی در حالی که برای مدل‌های دیگه هوش مصنوعی همیشه از مثلاً ده دلار برای هر میلیون توکن ورودی، پنجاه دلار برای هر میلیون توکن خروجی حرف می‌زنیم، اینجا از چهار ممیز دو سنت برای هر میلیون توکن ورودی حرف می‌زنیم و توکن‌های خروجی

22. 12:13 – 12:14 🗣 Wieland

    رایگانن.

23. 12:14 – 12:14 🗣 Jona

    آره.

24. 12:14 – 12:19 🗣 Wieland

    چون خب خیلی ناچیزن که حتی اندازه‌گیری بشن.

25. 12:19 – 12:29 🗣 Jona

    این طبیعتاً فوق‌العاده باحاله و در نهایت فقط یه، طبیعتاً در نهایت یه محدودیت بزرگه، چون می‌تونی این‌طور تصور کنی که یه اسکیمای خروجی سخت‌گیرانه داری—

26. 12:29 – 12:30 🗣 Wieland

    آره.

27. 12:30 – 12:37 🗣 Jona

    —که به‌عنوان اسکیمای JSON بهش می‌دی و این در نهایت یه مسئله بزرگ طبقه‌بندی‌ست— —از یادگیری ماشین، همون‌طور که می‌شناسی.

28. 12:38 – 12:50 🗣 Wieland

    آره. و این هم برام جالب بود، چون خب، اوم، از یه طرف، یه کم خودشون رو بد گرفتار کردن، چون توی مواد تبلیغاتی‌شون گفتن: «اوه، این مدل نمی‌تونه توهم‌زایی کنه.» همین.

29. 12:50 – 12:52 🗣 Wieland

    خب. [می‌خندد]

30. 12:52 – 12:55 🗣 Wieland

    آره. یعنی منظورشون این بود که خب نمی‌تونه از اون اسکیما منحرف بشه—

31. 12:56 – 12:56 🗣 Jona

    آره.

32. 12:56 – 13:12 🗣 Wieland

    —همونی که تو می‌دی. و اونجا متوجه شدم که خیلی از آدم‌ها ظاهراً Structured Outputs رو نمی‌شناسن، چون این یه کم، خیلی از کامنت‌گذارها هم این رو به‌عنوان یه چیز انقلابی تبلیغ کردن، در حالی که این چیزی‌ست که واقعاً خیلی وقته وجود داره، این—

33. 13:12 – 13:12 🗣 Jona

    آره.

34. 13:12 – 13:15 🗣 Wieland

    —که می‌تونی یه اسکیمای مشخص JSON رو به‌عنوان خروجی تحمیل کنی.

35. 13:15 – 13:18 🗣 Jona

    این حتی با مدل‌های خیلی قدیمی هم کار می‌کنه—

36. 13:18 – 13:18 🗣 Wieland

    آره.

37. 13:18 – 13:26 🗣 Jona

    —همون‌هایی که الان برای، که امروزه می‌گیم، خب، این هنوز [می‌خندد] فناوری عصر حجره— —بگیم، اونجا هم دیگه کار می‌کنه.

38. 13:26 – 13:30 🗣 Wieland

    آره. ولی به نظرم، اوم، خیلی خیلی جالب بود.

39. 13:30 – 13:30 🗣 Jona

    آره.

40. 13:30 – 13:50 🗣 Wieland

    و، اوم، ولی این خیلی خیلی باحاله، چون فکر می‌کنم کاربردهای زیادی هست که توش تقریباً فقط یه تصمیم داری. و این در واقع همون چیزیه که آدم به‌عنوان برنامه‌نویس هم احتمالاً بیش از همه از هوش مصنوعی انتظار داره. اینکه صرفاً یه if statement مبتنی بر AI باشه یا یه switch statement مبتنی بر AI.

41. 13:50 – 13:50 🗣 Jona

    آره.

42. 13:50 – 14:16 🗣 Wieland

    و خب اون‌قدر ارزون و سریعه که واقعاً می‌تونی، آره، حجم‌های زیادی داده رو باهاش پردازش کنی، بدون اینکه حتی توی ورک‌فلوت واقعاً متوجهش بشی. همین. اون‌قدر سریع بود که مثلاً مدل رو به‌صورت آزمایشی گذاشتن Doom بازی کنه. فقط به این خاطر که تقریباً این، ورودی و خروجی، باید بگم، تقریباً مدل وضعیت رو از قبل به‌صورت متن می‌گرفت، چون واقعاً فقط می‌تونه متن بخونه، این مدل.

43. 14:16 – 14:16 🗣 Jona

    مم.

44. 14:16 – 14:32 🗣 Wieland

    یعنی الان Doom رو ندیده، ولی همیشه فقط وضعیت رو می‌گرفت و بعد خب واقعاً ظرف پنجاه میلی‌ثانیه جواب رو می‌گرفت، جایی که تقریباً به این سؤال: الان باید این دکمه رو فشار داد؟ الان باید این دکمه رو فشار داد؟ باید این دکمه رو فشار داد؟ اون سؤال‌ها همیشه تقریباً جواب داده می‌شن.

45. 14:33 – 14:33 🗣 Jona

    آره.

46. 14:33 – 15:32 🗣 Wieland

    این واقعاً خیلی، خیلی باحاله. و یه چیز دیگه که این ماه خیلی برام جالب بود، ولی نسبتاً زیر رادار موند، انتشار مدل‌های Desert Ant Labs بود. این یه، یه شرکت هوش مصنوعی از اروپاست و اون‌ها یه سری از، یعنی یه سری، منظورم از یه سری واقعاً یه عالمه مدل کوچیک تخصصی توسعه دادن که کارشون اجرا روی گوشی‌هاست. و واقعاً همیشه مخصوص انجام یه کار خاص آموزش دیدن. اینجا فقط چندتا مثال بهت می‌دم. یا بهتره بگم، فقط برات می‌خونم که چه چیزهایی، اوم، اونجا وجود داره. و این‌که، داریم، اون‌ها هم همیشه اسم‌های خیلی، خیلی عجیب‌وغریبی دارن. مثلاً مدل Align هست که می‌تونی واقعاً بهش یه فایل صوتی و یه رونویسی موجود از اون صوت بدی و اون تایم‌استمپ کلمه‌ها رو توی این—

47. 15:32 – 15:32 🗣 Jona

    آره.

48. 15:32 – 16:40 🗣 Wieland

    —توی همین، توی همین رونویسی بهبود می‌ده. بعد یه مدل هست به اسم Clear که صرفاً یه ابزار حذف نویز صوتیه. بعد مدل Clips هست که، اوم، می‌تونه از یه رونویسی همراه با تایم‌استمپ لحظه‌های باحال برای کلیپ‌ها رو پیدا کنه. اوم، بعد یه مدل هست که مخصوص اینه که فقط بفهمه توی یه فایل صوتی چه زبانی حرف زده می‌شه. اسمش Ear هست. بعد یکی هست به اسم Emo که صرفاً این کار رو می‌کنه که برای یه متن، یه ایموجی پیشنهاد بده. یعنی می‌بینی، اینا کلی مدل خیلی کوچیکن. بعضی‌هاشون حدوداً یک ممیز پنج مگابایت‌ان. همین. بعد یه مدل که، اوم، اوم، برای پست‌ها تگ و موضوع می‌سازه. بعد مثلاً یه مدل که کارش اینه که، اوم، اطلاعات هویتی قابل شناسایی رو توی یه متن پیدا کنه و سانسور کنه. و یه مدل خیلی عجیب دیگه هم هست که باهاش از یه خطی که با انگشت می‌کشی، تقریباً یه شکل بی‌نقص می‌سازی. یعنی یه خط روی دستگاهت می‌کشی— —و تقریباً مختصات SVG یه خط تقریباً بی‌نقص، از همون خط رو پس می‌گیری.

49. 16:40 – 16:40 🗣 Jona

    مم.

50. 16:41 – 17:38 🗣 Wieland

    همه‌شون از این چیزهای باحال. چیزی که عنوان می‌سازه، چیزی— این، این، این، این واقعاً فوق‌العاده‌ست. و بعد طبیعتاً چندتا، اوم، مدل هم هستن که هنوز توی بتان، یا اصلاً هنوز عمومی در دسترس نیستن. و خب، اون‌ها رو هنوز نتونستم تست کنم. مثلاً یکی هست به اسم Eye که کارش دسته‌بندی و رتبه‌بندی تصویرها بر اساس زیبایی‌شناسی و محتواست. بعد یه مدل هست به اسم Face که کارش اینه که بتونه آدم‌ها رو دوباره تشخیص بده، مثلاً توی گالری گوشیت عکس‌ها رو بر اساس اینکه کی توشون دیده می‌شه خوشه‌بندی کنه. بعد یه مدل هست به اسم Moderator. کارش تشخیص برهنگی توی عکس‌هاست. اوم، یه مدل به اسم، اوم، Schemer که باهاش می‌شه هر JSON دلخواهی رو از متن استخراج کرد. یه مدل که می‌تونه نفرت‌پراکنی رو تشخیص بده و یه مدل که، اوم، اونجا، کارش اینه که تشخیص بده توی یه فایل صوتی یا ویدیو کی، کِی، چی گفته. که مثلاً برای پردازش پادکست خیلی خوب می‌شه. همین.

51. 17:38 – 17:48 🗣 Jona

    راستش می‌خواستم همین الان بگم، با همه این مدل‌های صوتی— —که همین الان درباره‌شون حرف زدی، به خودم گفتم، این در واقع دقیقاً همون— —چیزی بود که نقشه‌ت بود یا قبلاً پیاده‌سازی‌اش کردی.

52. 17:48 – 17:48 🗣 Wieland

    آره.

53. 17:48 – 17:53 🗣 Jona

    و اینکه حالا این رو توی یه مدل جمع‌وجور کوچیک امتحان کنی— —به نظرم باحال میاد.

54. 17:54 – 17:54 🗣 Wieland

    اینـ

55. 17:54 – 17:56 🗣 Jona

    خب، چیزی در این مورد فهمیدی؟

56. 17:56 – 18:15 🗣 Wieland

    ام، خب، حواست باشه یونا، چون یه چیز دیگه‌ای هم بود-- یعنی می‌تونم بگم، ا، من قطعاً، همون‌طور که شاید تو کانال یوتیوبمون هم دیده باشید، توی این کل ماجرا دارم پیشرفت می‌کنم. نه با این مدل‌ها، ولی سعی می‌کنم اون‌ها رو هم ادغام کنم. اما یه چیز خیلی جالب-

57. 18:16 – 18:33 🗣 Wieland

    چیزی که توی همین درگیری من با این مدل‌ها اتفاق افتاد، چیزی بود که آروم‌آروم می‌گم: «یونا، فکر می‌کنم به نقطه‌ی چرخش رسیدیم از این نظر که: عملاً هیچ کاری نیست که مدل‌های امروزی نتونن انجام بدن.» یعنی الان، یعنی کاری که آدم معمولی هر روز می‌خواد انجام بده.

58. 18:34 – 18:34 🗣 Jona

    آره.

59. 18:34 – 18:38 🗣 Wieland

    واضحاً، ام، همین الان داریم می‌شنویم که، ا، هر چی بیشتر

60. 18:39 – 18:43 🗣 Wieland

    مسائل ریاضی که قرن‌هاست حل نشده‌اند دارند حل می‌شن.

61. 18:43 – 18:44 🗣 Jona

    درسته، آره.

62. 18:44 – 18:51 🗣 Wieland

    باشه، فکر کنم. ولی، ام، مدل جدید OpenAI، GPT-6 Astra اومده.

63. 18:52 – 18:52 🗣 Jona

    آره.

64. 18:52 – 19:25 🗣 Wieland

    و تیبو، همان سرور و نجات‌دهنده ما، [می‌خندد] لطف کرد و یک ریست داد، طوری که طبیعتاً تونستم یه‌کم باهاش ور برم و طبیعتاً چیزهایی رو امتحان کردم که، ام، همه هم امتحانشون کردن. مثلاً وقتی چند هفته پیش توی Campus-Medientage در بامبرگ بودیم، ام، یه تور سریع از اتاق هاستل جوانانمون فیلم گرفتم و این تور اتاق رو، فقط ویدیوش رو، به آسترا دادم، بلندر رو باز کردم، MCP بلندر رو نصب کردم و گفتم: «این اتاق رو به‌صورت مدل سه‌بعدی بساز.»

65. 19:25 – 19:25 🗣 Jona

    آره.

66. 19:25 – 20:07 🗣 Wieland

    و همین‌طوری انجامش داد. و واقعاً هم خوب به نظر می‌رسید، با شیدرها و همه‌چیز، و صرفاً خیلی باحال‌تر از چیزی بود که امید داشتم. فوق‌العاده باحال بود. و یعنی، من نتونستم بهش کاری بدم که نتونه انجامش بده. و بعد به این مشکل برخوردم: وقتی اون، یعنی طبیعتاً بعدش ساده به کدکس گفتم: «بیا، یه اپ اندروید سریع برام بنویس که بتونم همه این مدل‌ها رو باهاش تست کنم-- روی گوشیم.» اون هم انجامش داد، ولی خوندم که، این مدل‌ها، بعضی‌هاشون توی بتای بسته نیستن، ولی فعلاً، راستش همیشه برای اندروید، iOS و جاوااسکریپت منتشر شده‌ن. بعضی از مدل‌ها، مخصوصاً چیزهای مربوط به صوت-

67. 20:08 – 20:08 🗣 Jona

    اوهوم.

68. 20:08 – 20:14 🗣 Wieland

    -فعلاً فقط برای Apple Intelligence هستن. خب، و این طبیعتاً بد بود، چون من آیفون ندارم.

69. 20:15 – 20:15 🗣 Jona

    آره.

70. 20:16 – 20:39 🗣 Wieland

    و بعد یه‌کم تحقیق کردم و منظورم اینه که از یه نمونه دیگه ChatGPT پرسیدم: «خب، اینجا این، این مدل‌های اپل، این فایل‌های .M Model، M Model C، که برای Neural Engine هستن،» می‌گه، یعنی، آیا اصولاً همه اطلاعات رو دارن که بشه اون‌ها رو جای دیگه هم اجرا کرد یا تبدیلشون کرد؟

71. 20:39 – 20:39 🗣 Jona

    اوهوم.

72. 20:39 – 20:51 🗣 Wieland

    و بعد چتی گفت: «آره، خب اصولاً باید همه اطلاعات رو داشته باشن» و تونستم توی اینترنت هم پیدا کنم که بعضی آدم‌ها قبلاً سعی کردن یه همچین مبدلی بنویسن.

73. 20:51 – 20:51 🗣 Jona

    اوهوم.

74. 20:51 – 21:06 🗣 Wieland

    ولی قطعاً هیچ چیز آماده‌ای نیست که بشه ساده چیزی رو توش وارد و خارج کرد. و بعد ساده رفتم سراغ کدکس، GPT-6 Astra رو خیلی بالا زدم و گفتم: «بعضی از این مدل‌ها فقط برای اپل هستن. این رو عوض کن.»

75. 21:06 – 21:07 🗣 Wieland

    [می‌خندد]

76. 21:08 – 21:08 🗣 Wieland

    و او هم انجامش داد.

77. 21:09 – 21:09 🗣 Jona

    آره.

78. 21:09 – 21:28 🗣 Wieland

    یه راه پیدا کرد، اختراع کرد، که این مدل‌ها رو به فرمت ONNX تبدیل کنه و حالا تونستم مدل‌ها رو روی گوشی اندرویدم امتحان کنم. با خودم گفتم: «خب یواش‌یواش، دیگه هیچ چیزی نیست که مدل‌ها نتونن انجام بدن.»

79. 21:28 – 21:28 🗣 Jona

    آره.

80. 21:29 – 21:53 🗣 Wieland

    هر چیزی، خب-- و بعد من، من کلی کار انجام دادم، فقط برای اینکه ببینم، ببینم آیا چیزی هست که مدل‌ها نتونن انجام بدن، مخصوصاً حالا توی ساختن بازی و چیزهای سه‌بعدی. یعنی من، من کلی تست باهاشون کردم، فقط برای اینکه ببینم، بیا، یه وقت بالاخره باید شکست بخوره. یه عکس تصادفی از یه ایموجی که روی کامپیوترم داشتم، کشیدم داخل، گفتم: «این ایموجی رو به‌صورت مدل سه‌بعدی بساز.»

81. 21:54 – 21:54 🗣 Jona

    آره.

82. 21:54 – 22:07 🗣 Wieland

    «البته با دقیقاً همون، با تکسچر و شیدینگی که توی عکس دیده می‌شه.» ساده انجامش داد. خیلی پیچیده‌تر هم از چیزی بود که فکر می‌کردم. بعد یه چیزی داشتم، یه، از یه پکAsset، یه قالب از یه بازی شهری-

83. 22:08 – 22:08 🗣 Jona

    اوهوم.

84. 22:08 – 22:25 🗣 Wieland

    -که همه‌چیز توش خیلی ایستا بود. اونجا فکر کردم: «بیا، اینجا این دارایی شهره.» گودو رو باز کردم و گفتم: «بهش جان بده. ماشین‌ها واقعاً باید حرکت کنن و باید توی جاده بمونن و همه‌چیز و پیچ هم بزنن و هواپیماها باید پرواز کنن و، و همه‌چیز و...» و اون گفت: «آره، باشه، انجام دادم.» و انجامش داد.

85. 22:25 – 22:25 🗣 Wieland

    [می‌خندد]

86. 22:25 – 22:28 🗣 Wieland

    یعنی این واقعاً حیرت‌آوره.

87. 22:28 – 22:28 🗣 Jona

    آره.

88. 22:28 – 22:36 🗣 Wieland

    تنها چیزی که واقعاً-- یعنی تنها چیزی که آدم رو واقعاً محدود می‌کنه، اینه که [می‌خندد] اشتراک صد یورویی داری یا دویست یورویی.

89. 22:36 – 22:36 🗣 Wieland

    [می‌خندد]

90. 22:36 – 22:46 🗣 Wieland

    و به‌عنوان آدمی که اشتراک صد یورویی داره، از نظر آماری من همون عامی‌ام که اشتراک دویست یورویی برای استفاده چهاربرابری از اشتراک صد یورویی رو نداره.

91. 22:46 – 22:47 🗣 Jona

    اوهوم.

92. 22:47 – 23:06 🗣 Wieland

    ولی خب این رو واقعاً حیرت‌آور می‌دونم و یه‌کم توی خودم حس می‌کنم، یعنی اونجا یه جور خستگی تصمیم حس می‌کنم. راستش خستگی تصمیم رو این‌طوری توصیف می‌کنن که وقتی به آدم‌ها، بگم، یه چیزی رو تحمیل نمی‌کنی، بلکه کلی، کلی گزینه بهشون می‌دی، دیگه حال نمی‌کنن اصلاً انتخاب کنن.

93. 23:06 – 23:06 🗣 Jona

    آره.

94. 23:06 – 23:30 🗣 Wieland

    گاهی بهتر است که به آدم‌ها فقط چند گزینه یا اصلاً هیچ گزینه‌ای بدهی. چون گاهی وقتی گزینه‌های زیادی به آن‌ها می‌دهی، نمی‌خواهند تصمیم بگیرند. و چیزی شبیه همین را در خودم حس می‌کنم، یونا. یعنی متوجه می‌شوم که چون می‌توانم همه‌چیز را با هوش مصنوعی انجام دهم، به‌نوعی دلم نمی‌خواهد هیچ‌کاری با هوش مصنوعی بکنم. خب، یعنی همین است، همین است، حسش می‌کنم.

95. 23:30 – 23:36 🗣 Jona

    و مثل همیشه، در هر کرانچ تایم، در نهایت به سؤال‌های فلسفی می‌رسیم. درست است.

96. 23:36 – 23:46 🗣 Wieland

    خب، و مهم‌تر از همه، یک‌جورهایی هم این‌طور است؛ یعنی من... من... حسودیم می‌شود یا... نه، یعنی برای کسانی خوشحال می‌شوم که واقعاً با کمک هوش مصنوعی یک کسب‌وکار راه می‌اندازند.

97. 23:46 – 23:46 🗣 Jona

    هوم.

98. 23:46 – 24:08 🗣 Wieland

    چون می‌توانم به تو، می‌توانم به تو و همه‌تان یک دید کوچکی بدهم. یعنی احتمالاً من و یک دوست پشت صحنه روی چیزی کار می‌کنیم، اما واقعاً این‌طور است که با خودم فکر می‌کنم، یعنی بیشترش را انجام می‌دهم چون برایم لذت‌بخش است، ولی دیگر برای هیچ‌چیز بازاری نمی‌بینم. یعنی فکر می‌کنم کاری که می‌کنیم، ما... ما... ما هیچ مُد و مُدل خاصی نداریم.

99. 24:08 – 24:09 🗣 Jona

    آره.

100. 24:09 – 24:19 🗣 Wieland

     یعنی تقریباً می‌توانیم همان کاری را بکنیم که می‌کنیم، و همین‌که کسی به فکرش برسد: «هی، من هم حالش را دارم دقیقاً همین کار را بکنم، فقط دو درصد بهتر.»

101. 24:19 – 24:19 🗣 Jona

     آره.

102. 24:19 – 24:25 🗣 Wieland

     آن‌وقت از نظر تئوری یک بعدازظهر انجامش داده، چون عامل‌های هوش مصنوعی امروزه همهٔ این کارها را می‌توانند بکنند.

103. 24:26 – 24:42 🗣 Wieland

     طوری که تقریباً آنجا... یعنی... بله، من کنجکاوم، به‌اصطلاح، که این مُد به کجا می‌رود. یعنی کمی نگرانم یا فکر می‌کنم که... که مُد همچنان، خب، انسان... خلاقیت انسانی و سلیقهٔ انسانی خواهد بود.

104. 24:42 – 24:42 🗣 Jona

     آره.

105. 24:43 – 24:54 🗣 Wieland

     می‌فهمی؟ چون با خودم فکر می‌کنم، یعنی تقریباً از نظر تئوری هر کسی می‌تواند امروزه هر بازی ویدیویی را در زمان خیلی کم بسازد. فقط سؤال این است: آیا ایده خوب است؟

106. 24:55 – 24:56 🗣 Jona

     آره. [آه می‌کشد]

107. 24:56 – 25:01 🗣 Wieland

     یعنی در اصل من... من... اگر حالش را داشتم، می‌توانستم سی تا بازی Watch Dogs خودم را بسازم.

108. 25:02 – 25:02 🗣 Jona

     آره.

109. 25:02 – 25:12 🗣 Wieland

     سؤال این است: آیا آن‌ها از نسخه‌های اصلی بهترند؟ [خنده] اگر ایده‌های باحالی داشته باشم و به هوش مصنوعی دستور دهم این ایده‌های باحال را پیاده کند، بله؛ وگرنه، نه.

110. 25:13 – 25:15 🗣 Jona

     خب حالا چه جوابی به این بدهم؟ [خنده]

111. 25:15 – 25:21 🗣 Wieland

     خب، نمی‌دانم. تو چی... چی... چی فکر می‌کنی؟ فکر می‌کنی این چطور پیش خواهد رفت؟ یعنی باور نمی‌کردم این‌قدر سریع اتفاق بیفتد. و...

112. 25:21 – 25:21 🗣 Jona

     آره.

113. 25:22 – 26:26 🗣 Wieland

     و بگذار این‌طور بگویم، حتماً تو هم شنیده‌ای که اخیراً این کل ماجرای «For Real AI Doom Talk» به‌اصطلاح داغ شده بود. مخصوصاً با Neuralesis و این‌جور چیزها. یعنی آنجا، آنجا خبرهای جعلی زیادی بود و من اولش کمی خوشحال شده بودم که اینجا در Crunch Time می‌نشینم و به تو می‌گویم: «آره یونا، می‌دانی، در آن مقاله AI 2027 یک نقطهٔ عطف مهم داستان وجود دارد؛ اینکه، ام، همهٔ شرکت‌های هوش مصنوعی یک جایی می‌گویند دیگر لازم نیست هوش مصنوعی‌ها آنچه فکر می‌کنند را به انگلیسی بگویند، بلکه می‌توانند تقریباً در قالب بردارهای خالص فکر کنند، که باعث می‌شود خیلی بهتر فکر کنند، ولی دیگر نمی‌توانیم کنترل کنیم چه فکری می‌کنند.» و این یکی از دلایل اصلی در آن داستان خیالی است که چرا انسان‌ها کنترل هوش مصنوعی را از دست می‌دهند. و راستش می‌خواستم همین‌جا بنشینم و بگویم: «آره، می‌دانی، و بعد OpenAI با خودش فکر کرد: 'په‌رپ، می‌دانم امروز چه کار می‌کنیم.'» [خنده] اما ظاهراً کاملاً این‌طور نبود.

114. 26:27 – 26:27 🗣 Jona

     آره.

115. 26:27 – 26:28 🗣 Wieland

     اما این واقعاً

116. 26:29 – 26:37 🗣 Wieland

     شدید است که... یعنی به نظرم، آدم شتاب را واقعاً خیلی حس می‌کند. باور نمی‌کردم این‌قدر سریع این‌قدر شدید شود.

117. 26:37 – 27:10 🗣 Jona

     و اولش فقط چیزهای پیش‌پاافتاده‌ای مثل این داشتیم: اوه، آنجا، الان، تازه بحث GPT-3 بود یا... تو شاید هنوز اولین گفت‌وگوی ما در این باره را یادت باشد، واقعاً، جایی که گفتیم، جایی که تو برایم توضیح دادی: «آره، می‌توانی، یعنی عملاً یک تابع داری که به شکلی می‌تواند متن زبان طبیعی برایت تولید کند.» آره، لول. [خنده] ببین این به کجا رسیده. فکر می‌کنم برای فکر کردن به این، دوباره یک Business Month لازم دارم. [خنده] این‌قدر شدید است.

118. 27:10 – 27:30 🗣 Jona

     نه، اِ... اوه، همین هم اساساً کار را برای توسعه‌دهنده‌ها فوق‌العاده سخت می‌کند، چون، چون آن‌وقت در نهایت هم باید کم و کم‌تر کنترل یا اصلاح کنی. تا اینکه در نهایت واقعاً آن، آن کد، نمی‌خواهم بگویم بی‌ارزش است، اما کد، اِ، اما برنامه‌نویسی عملاً بی‌ارزش می‌شود.

119. 27:31 – 27:31 🗣 Wieland

     آره.

120. 27:31 – 27:59 🗣 Jona

     چون آموزش دادن چیزی که آدم می‌خواهد به کامپیوتر بیش از حد آسان شده و دیگر به، به، به سطحی خیلی افراطی رسیده، همان‌طور که مردم، حتی آدم‌های ساده‌لوح، ده سال پیش تصور می‌کردند؛ مثل اینکه من به کامپیوتر چیزی می‌گویم و او باید دقیقاً همان را انجام دهد. اینکه واقعاً به این سطح رسیده‌ایم که آن، آن مترجم، یعنی توسعه‌دهنده در این حالت را کاملاً از میدان بیرون کرده‌ایم-

121. 27:59 – 28:00 🗣 Wieland

     آره.

122. 28:00 – 28:01 🗣 Jona

     از این فرایند.

123. 28:01 – 28:17 🗣 Wieland

     و به نظر من مهم‌تر از همه جذاب است، اِ، اگر در نظر بگیری، من... یعنی قبلاً همیشه این‌طور فکر می‌کردیم، خب باشه، آدم همیشه این، این سناریوهای پیشتازان فضا را تصور می‌کند، جایی که آن‌ها تقریباً روی سفینه‌شان کمابیش یک کامپیوتر ابرهوشمند دارند.

124. 28:17 – 28:17 🗣 Jona

     آره.

125. 28:18 – 28:21 🗣 Wieland

     اِ، چیزی که از نظر تئوری می‌شود با حرف زدن ساده همه‌چیز به آن گفت.

126. 28:22 – 28:22 🗣 Jona

     آره.

127. 28:22 – 28:28 🗣 Wieland

     و تا حالا همیشه تصور این بود: خب، دقیقاً این‌طور نیست، چون امروزه ما به دیتاسنترها نیاز داریم.

128. 28:28 – 28:28 🗣 Jona

     آره.

129. 28:28 – 28:30 🗣 Wieland

     خب، آدم نمی‌تواند یک دیتاسنتر را با خودش این‌طرف و آن‌طرف ببرد.

130. 28:30 – 28:31 🗣 Jona

     آره.

131. 28:31 – 29:03 🗣 Wieland

     اما منظورم این است که بیشتر و بیشتر به سمتی می‌رود که تو واقعاً با، بگذار بگویم، با یک رک سرور پر از سخت‌افزار تخصصی خاص بتوانی این کار را بکنی. یعنی اگر الآن شاید کمی از سفینه‌های فضایی فاصله بگیریم، از آن می‌گذریم و کمی، کمی روی زمین می‌مانیم و مثلاً از چیزی مثل ناوهای هواپیمابر حرف می‌زنیم. که آن هم مثل یک، یک بزرگ... مثل یک سفینه فضایی بزرگ است، فقط نه در فضا، بلکه روی دریا، روی دریا. خب، کاملاً قابل تصور است که تو یک ناو هواپیمابر داشته باشی.

132. 29:03 – 29:04 🗣 Jona

     آره.

133. 29:04 – 29:17 🗣 Wieland

     و آن هم جایی یک اتاق سرور دارد که یک رک با چنین سخت‌افزار تخصصی در آن ایستاده، و عملاً همان یک کامپیوتری است که آنجا دیگر وجود دارد. و آدم‌ها فقط تمام وقت با آن حرف می‌زنند.

134. 29:18 – 29:18 🗣 Jona

     آره.

135. 29:18 – 29:29 🗣 Wieland

     که به شکلی همان چیزی است که انسان عملاً همیشه از کامپیوتر می‌خواسته، فقط تا حالا نمی‌توانست انجامش دهد. فکر می‌کنم همان چیزی بود که-

136. 29:29 – 30:03 🗣 Jona

     اما این هم همیشه، این هم همیشه نکته اصلی این داستان‌هاست، برای، برای اینکه بیان کند چقدر می‌تواند خطرناک باشد. برای همین نمی‌دانم که آدم چطور می‌تواند این را با آن آرزوها این‌طور دسته‌بندی کند. و علاوه بر آن، این همیشه کمی هم آن، من، نمی‌خواهم بگویم مثل یک نوع نقطه داستانی، اما بخشی از لور هم هست، اینکه چطور روی آن، اِ، چطور بعد دقیقاً به مقدار زیادی انرژی دست پیدا می‌کنی تا بعد آن، تمام فناوری‌ات را آنجا راه بیندازی. فکر می‌کنم در این چارچوب آن‌وقت این هم قابل تصور باشد که واقعاً جایی یک رک سرور داشته باشی.

137. 30:03 – 30:03 🗣 Wieland

     آره.

138. 30:04 – 30:12 🗣 Jona

     و آن را با، بگذار بگویم، منبع انرژی دلبخواهی که نویسنده برای آنجا در نظر گرفته، آن‌وقت راه بیندازی.

139. 30:12 – 30:30 🗣 Wieland

     نه، اما منظورم الآن تقریباً این بود، من ادعا می‌کنم که در گذشته، بگذار بگویم، خیلی وقت‌ها تقریباً همان چیزی به جامعه وعده داده شد که امروز کم‌کم درباره تعامل با کامپیوتر واقعیت پیدا می‌کند. خب، فقط اگر به سیری فکر کنیم-

140. 30:30 – 30:30 🗣 Jona

     آره.

141. 30:31 – 30:50 🗣 Wieland

     یا حتی بگذار بگویم، خود، خودِ، می‌خواهم بگویم حتی خط فرمان هم تقریباً کمابیش یک چیزی بود مثل: «هی، نگاه کن، تو می‌توانی، یعنی نه، تو فقط با کامپیوتر تعامل می‌کنی، اما باید یک شیوه مشخص را به کار ببری. باید زبان او را حرف بزنی.» خب، و ما بیشتر و بیشتر به سمتی می‌رویم که بتوانیم ساده با کامپیوتر حرف بزنیم.

142. 30:51 – 31:06 🗣 Jona

     درست است. و درباره مانیتور و میز و تمام قیاس‌های میزکاری که طبیعتاً با خودش آورد، در نهایت هم همین‌طور بود: اوه، تو الآن یک روش خیلی شهودی‌تر برای تعامل با کامپیوتر داری، همان‌طور که الآن، الآن هم تمام این مدت آرزو داشتی. نه فقط: آه، خب، تو الآن باید-

143. 31:07 – 31:23 🗣 Jona

     تو باید همه دستورها را حفظ کنی و آن‌ها را در ترتیب درست اجرا کنی تا بعد دقیقاً بتوانی فلان و بهمان کار را انجام دهی. و در نهایت هم خیلی‌ها، خیلی‌ها همین قدم کوچک را هم دوباره آرزو کرده بودند، چون الآن هنوز اعصاب‌خردکن است و به همین دلیل نوآوری وجود دارد.

144. 31:23 – 31:29 🗣 Wieland

     برای همین. راستش باید بگم، به نظرم شتاب الان خیلی شدیده و-

145. 31:29 – 31:40 🗣 Jona

     و همین‌طور اینکه مدل‌هایی هستن که می‌تونن خروجی‌های معنادار روی، اوم، دستگاه‌های نهایی بدن. این احتمالاً یکی از بزرگ‌ترین بازی‌عوض‌کن‌هاست.

146. 31:40 – 31:47 🗣 Wieland

     آره، ولی چیزی که از این نظر خیلی هم خوب می‌دونم اینه که برای من به‌عنوان برنامه‌نویس، این ماه واقعاً بیشتر شبیه یه خواب شیرین بود.

147. 31:48 – 31:48 🗣 Jona

     آره.

148. 31:48 – 32:17 🗣 Wieland

     چون به خودم می‌گم، خب، من این رو خوب می‌دونم که مجبور نباشم یه مدل زبانی کامل رو با خودم این‌ور و اون‌ور بکشم، مدلی که عملاً خیلی کارها یا همه کارها رو انجام می‌ده. ولی اگه واقعاً بگم، در واقع من فقط یه مدل زبانی می‌خوام که بتونه نفرت‌پراکنی رو تشخیص بده، چون واقعاً، واقعاً کار من همینه. و الان منطقی نیست که کاربر چهار نقطه پنج گیگابایت مدل زبانی رو روی گوشیش دانلود کنه و بعد اونجا اجراش کنه، فقط برای اینکه همون یه کار خاص رو انجام بده.

149. 32:17 – 32:17 🗣 Jona

     آره.

150. 32:17 – 33:03 🗣 Wieland

     خب، برای همین این خیلی باحاله. و همین‌طور با جف، همون‌طور که گفتم، من کنجکاوم، اوم، ببینم چه چیزهای دیگه‌ای ممکنه. چند تا کار خودم هم در برنامه دارم که می‌شه با اینا کرد. ولی یه مثال از اینکه این همه‌چیز چقدر عجیبه، اوم، وقتی هوش مصنوعی‌ها واقعاً تمام‌قد می‌رن که مأموریتشون رو انجام بدن، اینه: من اشتباهی توی حالت Work روی وب‌سایت، نه توی Codex، روی وب‌سایت ولی توی حالت Work از ChatGPT پرسیدم: «هی ChatGPT، توی ماینکرفت با اسپاونرهای آزمایشی، می‌تونم کاری توی یه دیتاپک یا همچین چیزی بکنم که تریگرشون کنم، حتی وقتی که نمی‌تونن بازیکن رو ببینن؟»

151. 33:04 – 33:04 🗣 Jona

     مم.

152. 33:04 – 33:13 🗣 Wieland

     اوم، و من فکر کردم، خب، Chatty الان می‌ره توی اینترنت و توی Reddit می‌گرده و صفحه‌های ویکی ماینکرفت رو می‌خونه.

153. 33:13 – 33:14 🗣 Jona

     [می‌خندد] آره.

154. 33:14 – 33:17 🗣 Wieland

     می‌دونی برای جواب دادن به سؤالم چیکار کرد؟

155. 33:17 – 33:18 🗣 Jona

     نه.

156. 33:18 – 33:32 🗣 Wieland

     اون ماینکرفت رو دانلود کرد، نسخه توسعه رو، که دیگه کدش مبهم‌سازی نشده و توی کد نگاه کرد ببینه اسپاونر آزمایشی چطور کار می‌کنه. چون ویکی، ویکی ممکنه دقیق نباشه.

157. 33:33 – 33:34 🗣 Wieland

     آره، خنده‌داره. [می‌خندد]

158. 33:34 – 33:39 🗣 Wieland

     خب، بعد می‌گه: «آره، آره، الان نگاه کردم. این‌طوری و اون‌طوری‌ه. با اطمینان.»

159. 33:39 – 33:42 🗣 Jona

     و «با اطمینان» یعنی واقعاً، آره، دقیقاً همین توی کد نوشته شده.

160. 33:42 – 33:43 🗣 Wieland

     آره، دقیقاً.

161. 33:43 – 33:43 🗣 Jona

     خوش بگذره، آره.

162. 33:44 – 33:46 🗣 Wieland

     خب، این، این واقعاً وحشیه.

163. 33:46 – 33:46 🗣 Jona

     آره.

164. 33:46 – 33:55 🗣 Wieland

     واقعاً، همه‌مون داریم از هوش مصنوعی کم استفاده می‌کنیم. الان حتی خود من هم. حتی من هم دارم پتانسیلی که الان وجود داره رو درست استفاده نمی‌کنم.

165. 33:55 – 33:55 🗣 Jona

     آره.

166. 33:55 – 34:34 🗣 Wieland

     آره، خب، ولی تقریباً به نظرم شتاب الان دیگه خیلی محسوسه. همین که ببینیم چند تا و با چه آهنگ تندتری مدل‌های جدید هوش مصنوعی میان بیرون. یعنی، خب، قبلاً معمولاً بین مدل‌های اصلی سه، چهار ماه فاصله بود و الان حس می‌کنم، یعنی الان یوتیوبرهایی رو می‌شناسم که هر روز یه ویدیو می‌سازن و آخرین تحولات مربوط به مدل‌های هوش مصنوعی رو جمع‌بندی می‌کنن. البته شایعات و این چیزها هم زیاد توش هست، ولی در نهایت هر هفته دو تا سه مدل جدید هوش مصنوعی، مدل‌های مرزی، میاد بیرون.

167. 34:34 – 34:34 🗣 Jona

     مم.

168. 34:34 – 34:41 🗣 Wieland

     و همون‌طور که گفتم، من، حس می‌شه که خیلی به تکینگی نزدیکیم، و کنجکاوم ببینم آخرش به کجا می‌رسه.

169. 34:42 – 35:42 🗣 Jona

     من هنوز دو موضوع خیلی کوچک درباره نظارت دارم که آخرش هم دوباره به موضوع‌های زمان کرانچ گذشته وصل می‌شوند. یکی مربوط به تاکسی‌های روباتیک Waymo است که حالا واقعاً شروع کرده‌اند، مثلاً محتوای یا اشیای مجرمانه‌ای را که داخل تاکسی‌های روباتیک‌شان اتفاق می‌افتد، واقعاً به پلیس گزارش کنند. همین حالا دو نوجوان در آمریکا بازداشت شده‌اند که با اسلحه داخل آن دست‌وپا می‌کردند. و این طبیعتاً دوباره بحث را کمی زنده کرده: خب دقیقاً چه چیزی نظارت می‌شود و دقیقاً چطور پردازش می‌شود؛ قبلاً درباره تسلاهای خودران هم صحبت کرده بودیم که دوربین‌ها، نه فقط دوربین‌های داخلی، بلکه دوربین‌های بیرونی هم اصولاً چه چیزی را می‌توانند ضبط کنند و چه چیزهایی

170. 35:43 – 36:38 🗣 Jona

     همه‌چیز در آن هست. چند ماه پیش هم مشکل عینک‌های هوشمند متا را داشتیم، جایی که به قول من نسبتاً بدون فیلتر به کارمندان متا می‌رفت و آدم‌ها واقعاً می‌توانستند محتوای صریح و لحظه‌های خصوصی خریداران مربوطه را ببینند. ولی آن چند ماه پیش بود، شاید حتی شش ماه پیش. و دقیقاً درباره موضوع عینک‌های هوشمند، ما قبلاً درباره آن حاشیه‌نویسی افراد شبیه Watch Dogs صحبت کرده بودیم، اسمش را همین الان می‌گذارم حاشیه‌نویسی افراد. و چنین چیزی حالا در فیسبوک هم هست، یعنی متا، هر اسمی که بخواهی رویش بگذاری. و آنجا، بگویم، یک بحث هم بود، درباره داده‌های حاشیه‌نویسی‌شده روی پست‌ها، که داده‌های خصوصی فرد مربوطه هم با آن منتشر

171. 36:38 – 36:54 🗣 Jona

     شدند. آنجا متا AI مشخصاً پرسید: «اوه، این بچه را که سمت راست است می‌شناسید؟» تو هم حتماً آن پست یا گزارش را دیده‌ای، جایی که

172. 36:55 – 37:19 🗣 Jona

     می‌توانستی آکاردئون را باز کنی و اطلاعات واقعاً شخصی مادر و فکر می‌کنم خودش و بچه‌اش آنجا نوشته بود، یعنی نشانی قدیمی و فعلی و نام‌ها، با نام کامل، نام و نام خانوادگی بچه و غیره. متا هم به خاطر این کمی توبیخ خورد.

173. 37:19 – 37:22 🗣 Wieland

     ولی می‌توانی دوباره به من بگویی؟

174. 37:22 – 37:22 🗣 Jona

     آها.

175. 37:22 – 37:24 🗣 Wieland

     نمی‌دانم درست یادم می‌آید یا نه.

176. 37:25 – 37:25 🗣 Jona

     بله.

177. 37:25 – 37:37 🗣 Wieland

     فکر می‌کنم آن موضوع این بود که بیشتر افشا کرد که همه این اطلاعات کمابیش از قبل قابل دسترسی بودند.

178. 37:37 – 37:37 🗣 Jona

     درسته.

179. 37:37 – 37:38 🗣 Wieland

     اگر درست فهمیده باشم—

180. 37:38 – 37:39 🗣 Jona

     دقیقاً.

181. 37:39 – 37:49 🗣 Wieland

     —فقط کار کرد چون Meta AI روی چیزهایی کار می‌کرد که در پست‌های دیگر خانواده موجود بودند.

182. 37:49 – 38:06 🗣 Jona

     درسته. یعنی به آن‌ها دسترسی داشت و آن‌ها را تحلیل می‌کرد. درسته، این دقیقاً مورد بعدی است که می‌خواستم به آن بپردازم. خیلی خوب خلاصه‌اش کردی. بله، اینکه متا آن را جمع‌آوری کرده و می‌تواند در همین ابعاد پردازشش کند.

183. 38:06 – 38:19 🗣 Wieland

     نه، منظورم این بود که اصولاً اطلاعاتی هستند که هر انسانی که فقط پست‌های این حساب را نگاه کند هم می‌تواند بازسازی‌شان کند.

184. 38:19 – 38:20 🗣 Jona

     لزوماً این‌طور نیست.

185. 38:21 – 38:21 🗣 Wieland

     باشه.

186. 38:21 – 39:10 🗣 Jona

     چون متا خودش هم حجم عظیمی داده جمع می‌کند که طبیعتاً مدل کسب‌وکارش هم هست. و کلی چیز هست که تو نمی‌توانی ثبت کنی. یعنی طبعاً از تصاویر و پست‌ها و مهرهای زمانی و توضیحات می‌توانی خیلی چیزها بیرون بکشی. این واضح است. و یک فرد دیگر هم می‌تواند از زندگی‌ات خیلی چیزها استنتاج کند. اما نمی‌توانی آن را به سطح اطمینانی برسانی که متا دارد، وقتی مثلاً کل تاریخ موقعیت مکانی‌ات را هم دارد و غیره. ولی بله، حق داری، به‌عنوان یک بیرونی هم می‌توانی داده‌های خیلی زیادی از آن نتیجه بگیری. فکر می‌کنم این باید برای هر کسی که در شبکه‌های اجتماعی است روشن باشد، ولی قطعاً این‌طور نیست.

187. 39:10 – 39:34 🗣 Wieland

     و فکر می‌کنم این دوباره مثالی است، برای همین می‌خواستم مطمئن شوم که واقعاً مثالی برای این است که چیزی توبیخ می‌شود یا بحث‌برانگیز می‌شود، فقط چون داده‌هایی که تمام این مدت در دسترس بودند را طوری آماده کرده که آدم‌ها حالا متوجه شوند: اوه، این داده‌ها در دسترس‌اند.

188. 39:34 – 39:38 🗣 Jona

     بله، جایی که حالا به یک مشکل واقعی و مشروع تبدیل می‌شود.

189. 39:38 – 39:39 🗣 Wieland

     بله.

190. 39:39 – 39:48 🗣 Jona

     و نه: آه، خب، داده‌های من دارد سوءاستفاده می‌شود. شاید باید همین‌جا گفت: آه، خب، آدم می‌تواند خیلی چیزها...

191. 39:49 – 39:52 🗣 Jona

     که آدم دیگر، بگویم، نمی‌تواند از آن چشم‌پوشی کند.

192. 39:52 – 39:52 🗣 Wieland

     بله.

193. 39:52 – 40:03 🗣 Jona

     که اول فقط بی‌اعتنا بودی و آن را همان‌طور پذیرفتی یا تحمل کردی. و بله، خب، ولی حالا واقعاً باید کاری علیه متا یا گوگل بکنیم؟

194. 40:03 – 40:04 🗣 Wieland

     مم.

195. 40:04 – 40:17 🗣 Jona

     خب، لازم نیست حتماً. آخرش من خودم هم خیلی از آن استفاده می‌کنم و تو هم آخرش برای خودت فقط بهانه پیدا می‌کنی. تو، می‌فهمی؟ و بعد، وقتی که طبیعتاً به مشکل واقعی تبدیل شود، بله، آن‌وقت کلی درباره‌اش جنجال می‌شود.

196. 40:18 – 40:19 🗣 Wieland

     همان‌طور که گفتم، اگر الآن به من بگویی که آن—

197. 40:19 – 40:21 🗣 Jona

     ولی آن‌وقت، همان‌طور که گفتم، دیگر خیلی دیر شده.

198. 40:21 – 40:22 🗣 Wieland

     بله، واضح است، ولی—

199. 40:22 – 40:28 🗣 Jona

     نکته این است که آن‌ها آن را ثبت و پردازش می‌کنند، نه اینکه چطور الآن آن را نمایش داده‌اند.

200. 40:28 – 40:40 🗣 Wieland

     نه، دقیقاً. ولی موضوع این است، اگر الآن به من بگویی که با این حال، در این مورد Meta AI با داده‌های داخلی کار کرده، یعنی چیزهایی که فقط از پست‌های عمومی در دسترس نبودند—

201. 40:40 – 40:40 🗣 Jona

     بله.

202. 40:40 – 40:46 🗣 Wieland

     —بلکه مدل متا که طبیعتاً در بک‌اند است، به‌طور داخلی به همه‌چیز دسترسی دارد.

203. 40:46 – 40:46 🗣 Jona

     بله.

204. 40:46 – 41:00 🗣 Wieland

     من— و آن‌ها احتمالاً به دلایل خوب، یعنی شاید ایده‌ای داشتند، ولی ظاهراً از روی بی‌توجهی طوری تنظیمش کرده‌اند که Meta AI عمومی، که می‌توانی درباره پست‌های یک نفر ازش سؤال بپرسی—

205. 41:00 – 41:00 🗣 Jona

     درسته.

206. 41:01 – 41:10 🗣 Wieland

     —بافتِ همه داده‌هایی که متا از آن فرد دارد برایش موجود است. نه فقط داده‌هایی که در پروفایل به‌طور عمومی دیده می‌شوند.

207. 41:11 – 41:24 🗣 Jona

     بله، تا جایی که می‌دانم این‌طور است. مطمئناً محدودیت دارد، یعنی شاید همه‌چیز نباشد، به قول من نه صد درصد. ولی قطعاً دسترسی به داده‌های غیرعمومی هم در آن هست.

208. 41:24 – 41:44 🗣 Wieland

     دقیقاً، چون چیز مشابهی که این ماه اتفاق افتاد، مرا شدیداً یاد این انداخت و به کل جریان من هم برگرداند، نه، با OpenStreetMap هم گاهی چنین بحثی هست، همیشه دوست دارند درباره‌اش بحث کنند. نمی‌دانم از این کل، آیا از پروژه God's Eye View شنیده‌ای؟

209. 41:44 – 41:45 🗣 Jona

     نه، هنوز نه.

210. 41:45 – 41:58 🗣 Wieland

     یعنی یک توسعه‌دهنده، در گیومه، برنامه‌ای منتشر کرده، یا کمابیش یک اپلیکیشن نقشه‌ای که خیلی باحال به نظر می‌رسد منتشر کرده—

211. 41:58 – 41:58 🗣 Jona

     بله.

212. 41:58 – 42:14 🗣 Wieland

     —جایی که فقط حجم عظیمی از APIهای عمومی درباره چیزهای دنیای واقعی را در یک جا جمع کرده. مثلاً رادار پرواز، دوربین‌های CCTV عمومی در دسترس.

213. 42:14 – 42:14 🗣 Jona

     بله.

214. 42:15 – 42:38 🗣 Wieland

     مسیرهای عمومی چیزهای نظامی، و هر چیزی که آدم می‌تواند به‌طور عمومی ببیند. و آنجا هم، بگویم، یک— و کمی متوجه شدی که او هم کمی تسلیم شده، چون اولش سعی می‌کرد توضیحش دهد، چون خیلی خیلی زیاد این سؤال پیش می‌آمد: «خب، ولی هه، نه، تو اجازه داری؟»

215. 42:39 – 42:41 🗣 Wieland

     خب، مگر این مجاز است؟ خب،

216. 42:42 – 42:58 🗣 Wieland

     چرا این‌طور و همچنین: «واو، باورنکردنی، این آدم کاری می‌کند که همه سرویس‌های اطلاعاتی ما نمی‌توانند.» یعنی چون، هرچقدر هم که می‌گفت، مردم نمی‌فهمیدند که این فقط یک ابزار بصری‌سازی برای داده‌هایی است که همیشه به‌طور عمومی وجود داشته‌اند.

217. 42:59 – 42:59 🗣 Jona

     بله.

218. 42:59 – 43:30 🗣 Wieland

     و مردم این را نمی‌فهمیدند و تو— و متوجه می‌شوی، و من می‌گویم، این را هم می‌فهمم، چون طبیعتاً او را باحال‌تر نشان می‌دهد. یک جایی واقعاً، بگویم، تسلیم شد، پذیرفت، چون می‌دانم— در یک مصاحبه گفت: «بله، خیلی مهم است، من مرز را اینجا کشیدم: با ابزار من نمی‌توان افراد را ردگیری کرد. تصمیم گرفتم طوری بگذارم که آنجا مرز بکشم.» و من فقط فکر می‌کنم: «تو هیچ مرزی نکشیده‌ای. اصلاً API عمومی وجود ندارد که بتوانی داده‌های افراد را از آن بگیر.»

219. 43:31 – 43:33 🗣 Wieland

     بله. [می‌خندد]

220. 43:33 – 43:37 🗣 Wieland

     خب، نمی‌دانم آن چه بود، ولی به نظرم این دوباره همان موضوعی است—

221. 43:38 – 43:38 🗣 Jona

     بله.

222. 43:38 – 43:55 🗣 Wieland

     —که حالا این همه موضوع هوش مصنوعی را کمی افشا می‌کند، شبیه کاری که دیوید گریزل خیلی وقت پیش با اشپیگل کرد، جایی که گفتند: «بله، نه، شاید حتی بتوانی بفهمی چه کسی در تحریریه با چه کسی چه رابطه‌ای دارد.»

223. 43:56 – 43:56 🗣 Jona

     بله.

224. 43:56 – 44:06 🗣 Wieland

     خب، بعد او می‌گوید: «هه؟ تو اجازه داری؟ هکشان کردی یا از کجا می‌دانی؟» و او می‌گوید: «نه، می‌توانم این را از داده‌های عمومی موجود بخوانم.»

225. 44:07 – 44:07 🗣 Jona

     بله.

226. 44:07 – 44:07 🗣 Wieland

     خب.

227. 44:08 – 45:28 🗣 Jona

     نه، این همان است، بله، ولی این باید—ظاهراً هیچ‌کس به آدم نمی‌گوید که، بله، این به خودی خود هم، اگر همین حالا درباره کار سرویس‌های اطلاعاتی صحبت کرده‌ایم، در واقع بیشترش، یعنی نود، نود و پنج درصدش هم نوعی پردازش داده است، که بر داده‌های معمولاً متن‌باز، بگویم، مبتنی است، جایی که می‌گویی: «بله، باشه، می‌توانی خودت چیزها را یا بخری، یا مستقیم بخری یا داده‌های عمومی را فقط برای خودت پردازش کنی.» و این آخرش بزرگ‌ترین بخش کار است، به قول من، و در نهایت طبیعتاً هنوز ده درصد شیطنت‌های، بگویم، جذاب باقی می‌ماند، ولی آن‌ها هم همان کار سرویس اطلاعاتی می‌مانند و مردم تصور می‌کنند آن ده درصد بیشتر نود درصد است، نه برعکس. و این کمی نامتناسب است. بله، خیلی خوب، ولی این را همان‌جا یادداشت کردم و خودم هم نگاه می‌کنم که با آن چه کارها می‌توان کرد. نمی‌دانم، چه APIهای دیگری هنوز آنجا هست که بتوان اضافه کرد، جز حمل‌ونقل عمومی، پروازها، ظاهراً کشتی‌ها، نقشه‌ها البته. اصلاً نمی‌دانم، در کمنیتس دوربین‌های عمومی در دسترس هست و چند تا هستند؟

228. 45:28 – 45:29 🗣 Wieland

     نه، نه، نه. یعنی تا جایی که—

229. 45:29 – 45:29 🗣 Jona

     این حالا—

230. 45:29 – 45:45 🗣 Wieland

     —تا جایی که می‌دانم حداقل نه. ولی همان‌طور که گفتم، می‌توانی خیلی خیلی چیزها را به‌طور ضمنی استنباط کنی. مثلاً، بله، همان‌طور که در Transitions هم داشتیم، فقط از داده‌های بلادرنگ حمل‌ونقل عمومی می‌توانی نظریه‌پردازی کنی که یک اتوبوس الآن کجاست.

231. 45:46 – 45:46 🗣 Jona

     بله.

232. 45:46 – 45:47 🗣 Wieland

     مثلاً همین‌طور.

233. 45:47 – 45:51 🗣 Jona

     و بنابراین می‌توان افرادی مثل راننده اتوبوس را واقعاً ردگیری کرد.

234. 45:51 – 45:51 🗣 Wieland

     بله.

235. 45:52 – 45:53 🗣 Jona

     به شکلی، بله.

236. 45:53 – 45:58 🗣 Wieland

     یا خب، همچنین می‌توانی از تأخیرهایی که نظری از هیچ پدید می‌آیند—

237. 45:59 – 45:59 🗣 Jona

     بله.

238. 45:59 – 46:02 🗣 Wieland

     —تا حدی شاید بفهمی الآن کجا ترافیک است.

239. 46:02 – 46:02 🗣 Jona

     بله.

240. 46:02 – 46:04 🗣 Wieland

     فقط از داده‌های حمل‌ونقل عمومی.

241. 46:04 – 46:04 🗣 Jona

     بله.

242. 46:04 – 46:27 🗣 Wieland

     و این همان است، بله، مثلاً، بله، چیزی مثل، چیزی که من هم نمی‌دانستم، مثلاً، منتشر می‌کند، آه، مثلاً زنده هم وجود دارد، این بیشتر برای آمریکا مرتبط است. داده‌های زنده برای کل جهان درباره آتش‌سوزی‌های جنگلی وجود دارد که می‌توانی اضافه کنی. داده‌های زنده وجود دارد، یعنی هر روز کلی زلزله اتفاق می‌افتد، فقط بیشترشان ضعیف‌اند و ما از آن‌ها چیزی نمی‌شنویم.

243. 46:27 – 46:27 🗣 Jona

     بله.

244. 46:27 – 46:30 🗣 Wieland

     ولی آنجا هم فیدهای زنده هست که می‌توانی همه را اضافه کنی. همین.

245. 46:30 – 46:30 🗣 Jona

     اوه.

246. 46:31 – 46:34 🗣 Wieland

     داده‌های زنده هم وجود دارد که کدام ماهواره‌ها کجا پرواز می‌کنند.

247. 46:34 – 46:35 🗣 Wieland

     درسته،

248. 46:35 – 46:39 🗣 Wieland

     که به‌طور عمومی در دسترس‌اند. و بله، همه‌اش ممکن است.

249. 46:40 – 47:32 🗣 Jona

     آه، ویلاند، قسمت کم‌کم به پایان می‌رسد. ما خیلی زیاد و عمیق درباره هوش مصنوعی حرف زدیم، اوم، چون همان‌طور که گفتیم، تحولات آن‌قدر شدید شتاب گرفته‌اند و در نهایت بیشتر موضوع‌های دیگر را کاملاً تحت‌الشعاع قرار دادند. حالا این موضوع کمی در کرانچ تایم هم خودش را نشان داد. درست است، این هشتادوچهارمین قسمت کرانچ تایم بود. این یک پادکست فناوری است که در آن درباره همه موضوع‌های فناوری اطلاعات حرف می‌زنیم و گاهی هم از خبرهای کمپس TU و اینکه در زندگی شخصی و محیط فناوری شخصی‌مان، بگویم، چه چیزهایی پیشرفت کرده‌اند. ویلاند، اگر کسی کمی دیر به قسمت فعلی وصل شده، کجا می‌تواند بعداً آن را دوباره بشنود؟

250. 47:32 – 48:00 🗣 Wieland

     قسمت‌های کرانچ تایم را می‌توان در هر جایی که پادکست پیدا می‌کنید دوباره شنید؛ یعنی طبیعتاً در اسپاتیفای، یوتیوب، اپل موزیک. اما البته یک فید RSS هم هست که می‌توانید آن را در podcast.radio-unique.de دریافت کنید. همچنین در وب‌سایت ما radio-unique.de همیشه مقاله‌ای با، اوم، قسمت و شونوت‌ها پیدا می‌کنید، طوری که اگر بخواهید می‌توانید کل آرشیو ما را دوباره بشنوید.

251. 48:01 – 48:05 🗣 Jona

     خیلی خوب. و قسمت بعدی کرانچ تایم ما چه زمانی پخش می‌شود؟

252. 48:05 – 48:08 🗣 Wieland

     خب، چون همیشه چهارمین یکشنبه ماه می‌آید-

253. 48:09 – 48:09 🗣 Jona

     درست است.

254. 48:09 – 48:23 🗣 Wieland

     -ساعت هجده، طبیعتاً در قسمت بعدی ما هم همین‌طور است. و در این مورد، ۲۵ اکتبر ۲۰۲۶ است. اگر آن‌جا ساعت هجده روشن کنید، هشتادوپنجمین قسمت کرانچ تایم را می‌شنوید.

255. 48:23 – 48:25 🗣 Jona

     امیدوارم دوباره همدیگر را بشنویم. خدانگهدار.

256. 48:26 – 48:26 🗣 Wieland

     خداحافظ.

257. 48:33 – 48:33 🗣 Wieland

     [جینگل پایانی]

258. 48:33 – 48:39 🗣 Wieland

     این کرانچ تایم بود، تولیدی از رادیو یونیک.

Zuletzt aktualisiert am 1

1. 00:00 – 00:07 🗣 Wieland

   रेडियो यूनिक प्रस्तुत करता है [पृष्ठभूमि संगीत] क्रंच टाइम।

2. 00:10 – 00:12 🗣 Wieland

   जोना और वीलैंड के साथ।

3. 00:13 – 00:24 🗣 Wieland

   नमस्कार, बाहर बैठे प्यारे दोस्तों, और क्रंच टाइम के चौरासीवें एपिसोड में आपका हार्दिक स्वागत, हमारी सातवीं वर्षगांठ। सात सालों से आपके लिए मैं, वीलैंड-

4. 00:24 – 00:25 🗣 Jona

   और मैं, जोना।

5. 00:25 – 00:44 🗣 Wieland

   हर महीने के चौथे रविवार को तकनीक की दुनिया की नवीनतम खबरें, और कभी-कभी टीयू कैंपस से और हमारी निजी तकनीकी गतिविधियों से भी। आज हमने आपके लिए फिर एक शानदार घंटा तैयार किया है, जो भरा है, हाँ, मैं कहूँगा, तकनीकी दुनिया की खबरों और उनके विश्लेषणों से। जोना, बताइए ना।

6. 00:45 – 01:10 🗣 Jona

   हमें एक बार यह सामने रखना चाहिए कि पिछले सात सालों में टेक्नोलॉजी की दुनिया में असल में कितना कुछ बदल गया है। पता है, मुझे भी यह आज ही महसूस हुआ। रुको, असल में हर हफ्ते कम से कम एक ऐसी खबर आती है, जिसमें बात यह होती है: ठीक है, अमेरिका की बड़ी कंपनी XY को इस AI-समर्थित एक्सप्लॉइट से हैक कर लिया गया।

7. 01:10 – 01:10 🗣 Wieland

   हम्म

8. 01:10 – 03:45 🗣 Jona

   और इसके कारण उस मामले में बेहद गंभीर परिणाम हुए। ओह, उसमें ग्राहक डेटा शामिल था या कुछ खास कर्मचारी डेटा शामिल था, कुछ गुप्त कोडबेस, जहाँ यह, मैं कहूँगा, असल में हमेशा पैमाने के हिसाब से बहुत चरम होता है। और अब यह सामान्य हो गया है कि लगभग हर हफ्ते ऐसी बड़ी खबरें आ जाती हैं, जैसे, ओह, मेटा को इस तरह हैक कर लिया गया और उन्होंने बहुत कम समय में इसे ठीक भी कर लिया। और, इससे पहले कि हम अब किसी खास विवरण में जाएँ, मैं सिर्फ़ यह बताना चाहता था कि इसका पीछा करना कितना मुश्किल हो जाता है। मतलब अब हमारे लिए नहीं। अंत में यह हमारे लिए कमोबेश अप्रासंगिक है, सिवाय इसके कि हमें व्यक्तिगत रूप से दिलचस्पी है कि यह कैसे हुआ, बल्कि उन सारी प्रक्रियाओं में, जो इससे जुड़ी हैं। कि कंपनियों को अब इसमें इतनी ज़्यादा ऊर्जा लगानी पड़ती है, ताकि वे हमेशा अपडेट रहें, कुछ ही घंटों के भीतर कुछ सिस्टम्स के लिए फिक्स निकाल सकें, किसी नौकरशाही प्रक्रिया की तो बात ही छोड़िए। क्योंकि अगर ऐसा अब किसी जर्मन कंपनी में होता, तो स्वाभाविक रूप से: ओह, पहला कदम, तुम्हें पहले अपने, मैं कहूँगा, [हँसता है] सुरक्षा प्रोटोकॉल को खोजना पड़ता, इस मामले में तुम्हारी चेकलिस्ट, कि ऐसी स्थिति में तुम क्या करते हो। और आदर्श स्थिति में तुम्हारे पास ऐसी चीज़ पहले से होती है, ऐसे कहें। फिर स्वाभाविक रूप से तुम्हारे डेटा प्रोटेक्शन अधिकारी को भी सूचित करना पड़ता। उसे फिर डेटा संरक्षण प्राधिकरण को भी सूचित करना पड़ता और वह अंत में शुरुआत में सूचना के आगे प्रसार का सीधा काम देखता है। यानी वे फैसला करते हैं कि यह कितना गंभीर है और ज़रूरत पड़ने पर प्रभावित कर्मचारियों से संवाद भी करते हैं, जब मामला कर्मचारी डेटा का हो, तो उन्हें सूचित करते हैं, कंपनी खुद नहीं, जहाँ तक मुझे पता है। जबकि कंपनी के रूप में तुम्हें बस पूरे समय संघर्ष करना पड़ता है और सोचना पड़ता है: ठीक है, मुझे अब, आह, आखिर यह हुआ कहाँ से? हम कौन-सा वर्ज़न, किन सिस्टम्स को अब शायद रोलबैक कर सकते हैं? और तुम्हें स्वाभाविक रूप से सारी चाबियाँ तुरंत बदलनी पड़ती हैं, यानी सारी SSH-चाबियाँ, कोई अन्य लॉग-ऑन चाबियाँ, पासवर्ड, सब कुछ तुरंत बदलना पड़ता है। और यह सब उसकी तुलना में बहुत ज़्यादा है कि अब यह कितना आसान हो गया है, मान लो, तीन हज़ार अमेरिकी डॉलर से भी कम, जैसा अगले उदाहरण में आएगा, खर्च करके बड़ी नामी कंपनियों की एक पूरी श्रृंखला को हैक किया जा सकता है।

9. 03:45 – 03:45 🗣 Wieland

   हम्म

10. 03:46 – 04:00 🗣 Jona

    और यह बिल्कुल उस पैसे से, जिसे क्लाउड में टोकन्स पर लगाया गया था। निम्न सुरक्षा समस्या का प्रकाशन सीधे XKCD कॉमिक या कॉमिक पैनल से शुरू हुआ।

11. 04:01 – 04:01 🗣 Wieland

    जी।

12. 04:01 – 06:37 🗣 Jona

    यानी इंटरनेट और ज़्यादातर सॉफ़्टवेयर को नेब्रास्का की एक, एक यादृच्छिक, एक यादृच्छिक व्यक्ति द्वारा थोड़ा सा जोड़कर संभाला, रखा जाता है, जिसने 2006 में कभी कोई यादृच्छिक, हम्म, प्रोजेक्ट पूरा कर दिया। और ठीक इसी वजह से अंत में यह एक कमज़ोरी बन गया। खैर, जो भी कहें, सुरक्षा शोधकर्ता सिरियस नाम का व्यक्ति, जिसने ओपनएआई में थोड़ा सा, नहीं, उन्होंने सफ़ाई नहीं की। उन्होंने अंत में सिर्फ़ आंतरिक Git में एक पुल रिक्वेस्ट प्रकाशित किया, ताकि इस ओर थोड़ा ध्यान आकर्षित कर सकें। असल में उन्होंने अंत में Discourse फ़ोरम को, हम्म, हैक किया, जिसे ओपनएआई, हम्म, होस्ट करता है। और उसे किसी तरह इमेजेज़ भी प्रोसेस करने पड़ते हैं, क्योंकि यह एक फ़ोरम है। और वहाँ एक बहुत पुरानी C-लाइब्रेरी है, हम्म, Lib H-E-I-F, इसे जो भी कहें, यह एक सामान्य इमेज और वीडियो फ़ॉर्मैट के लिए है, हम्म, शायद आप जानते हैं। और उसमें बस एक हीप-ओवरफ़्लो है, जिसे, हम्म, भड़काया जा सकता है। तो आप फ़ोरम में एक इमेज फ़ाइल अपलोड कर सकते हैं, जो हेरफेर की गई हो। मतलब, आप उस कोडेक को बताते हैं कि दो इमेजों को एक-दूसरे के ऊपर रखो और अलग-अलग ब्लेंड मोड्स वगैरह के साथ, यह आपने ज़रूर किसी इमेज एडिटर में देखा होगा। और वहाँ आप एक ऑफ़सेट भी दे सकते हैं, यानी जो इमेज ऊपर रखी है, उसे बाएँ, दाएँ, ऊपर और नीचे कितना शिफ्ट किया जाए। और वहाँ आप नेगेटिव नंबर भी डाल सकते हैं, ताकि, मान लीजिए, ऊपर रखी इमेज को बाएँ ओर इमेज की सीमा से बाहर धकेल दें, अगर आप नेगेटिव X-कोऑर्डिनेट डालते हैं। यह सिस्टम वैध रूप से स्वीकार भी कर लेता है, लेकिन आगे की प्रोसेसिंग में कहीं अंत में एक कास्ट होता है, जैसा आप C से जानते हैं, signed integer से unsigned integer में। और इसका मतलब है कि छोटी नेगेटिव संख्या, जैसे शायद माइनस पचास, जिससे इमेज को शिफ्ट करना चाहते हैं, अचानक वह जानी-पहचानी 4.2 अरब बन जाती है, जब आप अंत में उसे signed integer से बनाते हैं और फिर लाइब्रेरी मेमोरी में ऐसी जगह लिखने की कोशिश करती है, जो सिद्धांत रूप से उसकी है ही नहीं। और ऐसे सिस्टम्स हैं जो इसे रोकते हैं, लेकिन उन्हें भी बायपास किया जा सका, जिससे आपको वाकई रिमोट कोड एक्ज़ीक्यूशन मिल जाता है।

13. 06:37 – 08:24 🗣 Jona

    और ओपनएआई सर्वर पर इस रिमोट कोड एक्ज़ीक्यूशन के ज़रिए वे आगे कह सके: “चलो, अब हम आगे भी वही करते हैं, जैसे अभी कर रहे हैं, Claude 4.8, Claude Opus 4.8, मुझे सही तरीके से यही कहना चाहिए, और लॉगिन सिस्टम में एक बग खोजते हैं।” और वे वाकई लंबे समय तक खोजते रहे, लेकिन असल में कुछ नहीं मिला। और कुछ घंटों बाद [हँसता है] Claude Opus 5 आ गया और इसके साथ यह काम, मुझे नहीं पता, दो-तीन घंटों में हो गया, जिससे ओपनएआई के Single Sign-on में भी एक कमज़ोरी मिल सकी, यानी अंत में कई, मैं कहूँगा, बहुत सारे हिस्से थे, जिन्हें तुमने एक-दूसरे से जोड़ दिया, जहाँ तुम्हें पूरा एक्सेस मिल गया, क्योंकि बात यह थी कि ओपनएआई कर्मचारियों के ईमेल पते भी कंप्रोमाइज़ हो गए थे और इस तरह तुम्हारे पास सब कुछ पहुँच गया। उसमें Slack भी था, आंतरिक Git और कुछ अन्य सिस्टम्स भी, जो वे इस्तेमाल करते हैं, कर्मचारी डेटा, सब कुछ। और फिर उस, मैं कहूँगा, सुरक्षा शोधकर्ता स्लैश हैकर, जो भी कहें, ने कहा: “हाँ, ठीक है, चलो, मैं अब सिर्फ़ एक पुल रिक्वेस्ट बनाता हूँ। यहाँ, देखो क्या है”, इस भाव से। और उसे इसके लिए असल में सिर्फ़ छह हज़ार पाँच सौ अमेरिकी डॉलर बग बाउंटी के रूप में मिले, जो ऐसी चीज़ के लिए वाकई तुलनात्मक रूप से बहुत कम है। और इसकी वजह यह थी कि उन्होंने उसे यह सिर्फ़, आह, Single Sign-on बग के लिए दिया, क्योंकि कंपनी के रूप में तुम हमेशा उन सॉफ़्टवेयर प्रोजेक्ट्स के लिए बग बाउंटी नहीं दे सकते, जिन्हें तुम बस साथ में इस्तेमाल करते हो।

14. 08:24 – 08:24 🗣 Wieland

    जी।

15. 08:24 – 09:59 🗣 Jona

    यह तो चलेगा नहीं, क्योंकि तुम आखिर कहाँ पहुँच जाओगे, अगर हर कंपनी, जो एक लाइब्रेरी इस्तेमाल करती है, सीधे उस सुरक्षा शोधकर्ता को कुल मिलाकर कई मिलियन देने लगे। यह वैसे भी किसी तरह बेतुका होगा। इसलिए यह स्वाभाविक रूप से स्कोप से बाहर था। यह वैसे भी अब बहुत बड़ी खबर थी। मैं चाहता था कि यह तुम लोगों के लिए थोड़ा विस्तार से कहा जाए। यह अक्सर ऐसी जटिल, हम्म, श्रृंखलाओं को समझने में भी मदद करता है। ठीक है, और यह अभी सिर्फ़ इस मौजूदा स्थिति के उदाहरण के तौर पर था, कि दुनिया में यह सब मैनेज करना थोड़ा मुश्किल होगा। और ऐसे Sandbox Escapes के बारे में भी अक्सर पढ़ने को मिलता है। इनके बारे में हम Crunch Time में भी बात कर चुके हैं। और असल में ज़्यादातर मामलों में इन्हें थोड़ा ही रोका जा सकता है। अगर अब देखें, ओह, ठीक है, हम्म, Claude Opus 5.5 अतिरिक्त, हम्म, सुरक्षा प्रतिबंधों के साथ आया। लेकिन इससे सिद्धांत रूप से सिर्फ़ Sandbox Escape मतलब है, यह नहीं कि मॉडल कितनी कुशलता से काम कर सकता है। यह स्वाभाविक रूप से पूरी तरह अलग है और अंत में वैसे भी सिर्फ़ यही बिल्ली-चूहे का खेल रहता है, हाँ, तुम्हें भी तो, तुम्हें किसी तरह AI के साथ सुरक्षा कमज़ोरियाँ पहचाननी होंगी, चाहे तुम अच्छे हो या बुरे। अगर तुम किसी कंपनी के अंदर काम करते हो और खुद वैध रूप से सुरक्षा कमज़ोरियाँ खोजते हो, और बाहर वाला व्यक्ति, जो तुम्हारे यहाँ भी सुरक्षा कमज़ोरियाँ खोजता है। और किसी तरह तुम दोनों के पास इसके लिए अलग-अलग उपकरण नहीं हो सकते।

16. 09:59 – 10:00 🗣 Wieland

    जी।

17. 10:00 – 10:31 🗣 Jona

    यह, यह तो काम नहीं करता, लेकिन हाँ, यह हर हाल में दिलचस्प होगा। और यह अब स्वाभाविक रूप से, हमेशा सैकड़ों में से सिर्फ़ एक उदाहरण था, इसे यहाँ दिखाने के लिए। और हाँ, दो दिन पहले भी बिल्कुल नई जानकारी सामने आई, लेकिन शायद हमें अभी थोड़ा इंतज़ार करना चाहिए और देखना चाहिए, जब तक सूचना की स्थिति थोड़ी शांत न हो जाए और हम वाकई उस पर, हम्म, रिपोर्ट कर सकें। लेकिन मुझे नहीं लगता कि यह रुकेगा, सुरक्षा कमज़ोरियों की यह, यह लहर।

18. 10:32 – 10:56 🗣 Wieland

    हाँ, जोना, मेरे लिए पिछला महीना भी कुछ हद तक, कहूँ तो, छोटे AI मॉडल्स या ऐसे मॉडल्स से भरा रहा, जो अब इतने, कहूँ तो, फ्रंटियर पर बेहद ज़बरदस्त नहीं हैं, बल्कि शायद थोड़े पीछे रखे गए हैं, फिर भी काफी कूल हैं। तो पहली चीज़, जिसके बारे में लगभग सबने बात की,

19. 10:57 – 11:34 🗣 Wieland

    जहाँ मैंने पहले सोचा, ओह, यह एक निच-टॉपिक है, जिसमें किसी की दिलचस्पी नहीं होगी, और फिर अचानक सबने इसके बारे में बात की, वह है Jeff, लेकिन J-E-V लिखा हुआ, न कि, उम, Treff Punkt achtzehn DE विज्ञापन वाला Jeff। उम, हाँ, तो Jeff एक AI मॉडल है, जो आया है, उम, जो प्रोप्राइटरी है, लेकिन इसमें एक दिलचस्प तकनीक इस्तेमाल हुई, उम, जिससे यह AI मॉडल टेक्स्ट नहीं देता, बल्कि सिर्फ तुम्हारे दिए हुए विकल्पों में से चुन सकता है। और इसी वजह से यह बहुत तेज़ और बहुत सस्ता है।

20. 11:34 – 11:34 🗣 Jona

    हाँ।

21. 11:34 – 12:13 🗣 Wieland

    क्योंकि सारे फैसले, यानी फैसले सब एक-दूसरे से स्वतंत्र होने चाहिए, लेकिन फिर भी लगभग जितने चाहो हो सकते हैं। यानी मुझे लगता है, तकनीकी रूप से यह दो सौ छप्पन तक सीमित है, लेकिन एक साथ कई फैसले हो सकते हैं, कई सवाल जो तुम अपने इनपुट, अपने स्टेटस के बारे में पूछ सकते हो, और, उम, सारे जवाब समानांतर में बनते हैं। इसलिए यह बेहद तेज़ है और दूसरी तरफ बेहद सस्ता है। यानी जहाँ दूसरे AI मॉडल्स में हम आम तौर पर, पता नहीं, दस डॉलर प्रति मिलियन टोकन इनपुट, पचास डॉलर प्रति मिलियन टोकन आउटपुट की बात करते हैं, वहाँ यहाँ हम चार दशमलव दो सेंट प्रति मिलियन टोकन इनपुट और आउटपुट टोकन की बात कर रहे हैं

22. 12:13 – 12:14 🗣 Wieland

    मुफ़्त हैं।

23. 12:14 – 12:14 🗣 Jona

    हाँ।

24. 12:14 – 12:19 🗣 Wieland

    क्योंकि वे मापे जाने के लिए बहुत छोटे हैं।

25. 12:19 – 12:29 🗣 Jona

    यह बेशक बहुत शानदार है और अंत में यह सिर्फ एक, बेशक अंत में एक बहुत बड़ी सीमा है, क्योंकि इसे ऐसे समझ सकते हैं जैसे सिर्फ एक सख्त आउटपुट स्कीमा-

26. 12:29 – 12:30 🗣 Wieland

    हाँ।

27. 12:30 – 12:37 🗣 Jona

    -JSON स्कीमा के रूप में दिया गया हो और अंत में यह मशीन लर्निंग की एक बड़ी क्लासिफिकेशन समस्या है- -जैसी हम जानते हैं।

28. 12:38 – 12:50 🗣 Wieland

    हाँ। और मुझे यह भी काफी दिलचस्प लगा, क्योंकि, उम, एक तरफ, उन्होंने थोड़ी मुसीबत मोल ली, क्योंकि अपनी प्रचार सामग्री में उन्होंने कहा: "ओह, यह मॉडल हेलुसिनेट नहीं कर सकता।" बस।

29. 12:50 – 12:52 🗣 Wieland

    खैर। [हँसता है]

30. 12:52 – 12:55 🗣 Wieland

    हाँ। तो उनका मतलब था कि यह स्कीमा से भटक नहीं सकता-

31. 12:56 – 12:56 🗣 Jona

    हाँ।

32. 12:56 – 13:12 🗣 Wieland

    -जो तुम देते हो। और तब मैंने देखा, बहुत से लोग Structured Outputs को नहीं जानते लगते हैं, क्योंकि यह थोड़ा, कई कमेंटेटरों ने इसे क्रांतिकारी बताया है, जबकि यह असल में काफी समय से मौजूद है, यह-

33. 13:12 – 13:12 🗣 Jona

    हाँ।

34. 13:12 – 13:15 🗣 Wieland

    -एक खास JSON स्कीमा को आउटपुट के रूप में थोप सकते हैं।

35. 13:15 – 13:18 🗣 Jona

    यह तो बहुत पुराने मॉडल्स में भी होता है-

36. 13:18 – 13:18 🗣 Wieland

    हाँ।

37. 13:18 – 13:26 🗣 Jona

    -जिनके बारे में अब, जहाँ आजकल लोग कहते हैं, अरे, यह तो अभी भी [हँसता है] पाषाणयुगीन तकनीक है- -मान लो, वहाँ भी यह हो चुका है।

38. 13:26 – 13:30 🗣 Wieland

    हाँ। लेकिन मुझे यह, उम, बहुत, बहुत दिलचस्प लगा।

39. 13:30 – 13:30 🗣 Jona

    हाँ।

40. 13:30 – 13:50 🗣 Wieland

    और, उम, यह वाकई बहुत, बहुत कूल है, क्योंकि मुझे लगता है, कई ऐसे उपयोग हैं जहाँ तुम्हारे पास बस एक फैसला होता है। और एक प्रोग्रामर के तौर पर AI से लोग शायद यही सबसे ज़्यादा उम्मीद करते हैं। कि यह बस एक AI-समर्थित If-Statement या AI-समर्थित Switch-Statement है।

41. 13:50 – 13:50 🗣 Jona

    हाँ।

42. 13:50 – 14:16 🗣 Wieland

    और यह इतना सस्ता है और इतना तेज़ चलता है कि तुम सचमुच, हाँ, बहुत बड़ी डेटा मात्रा को भी प्रोसेस कर सकते हो, बिना अपने वर्कफ़्लो में ज़्यादा महसूस किए। तो। यह इतना तेज़ था कि उन्होंने मॉडल से टेस्ट के तौर पर Doom खिलवाया। बस इसलिए कि यह, इनपुट और आउटपुट, पर कहना होगा, यह लगभग यह था कि मॉडल को स्टेट पहले से टेक्स्ट के रूप में मिलता था, क्योंकि यह मॉडल सचमुच सिर्फ टेक्स्ट पढ़ सकता है।

43. 14:16 – 14:16 🗣 Jona

    म्हम।

44. 14:16 – 14:32 🗣 Wieland

    तो उसने Doom नहीं देखा, लेकिन उसे हमेशा सिर्फ स्टेट मिलता रहा और फिर सचमुच पचास मिलीसेकंड के भीतर जवाब मिल जाता है, जहाँ लगभग सवाल होता है: क्या अब यह बटन दबाना चाहिए? क्या अब यह बटन दबाना चाहिए? क्या यह बटन दबाना चाहिए? यानी ये सवाल हमेशा जवाब दिए जाते हैं।

45. 14:33 – 14:33 🗣 Jona

    हाँ।

46. 14:33 – 15:32 🗣 Wieland

    यह वाकई काफी, काफी कूल है। और दूसरी चीज़, जो मुझे इस महीने बेहद दिलचस्प लगी, जो काफी रडार के नीचे रह गई, वह थी Desert Ant Labs के मॉडल रिलीज़। यह एक, यह यूरोप की एक AI कंपनी है और उन्होंने कई, यानी कई से मेरा मतलब है बहुत सारे, विशेष छोटे मॉडल्स बनाए हैं, जो फोन पर चलने के लिए हैं। और वे सचमुच हमेशा एक खास काम करने के लिए प्रशिक्षित होते हैं। मैं तुम्हें बस कुछ उदाहरण देता हूँ। या फिर मैं तुम्हें पढ़कर सुनाता हूँ कि वहाँ क्या-क्या, उम, है। तो, हमारे पास, यानी उनके नाम भी हमेशा बड़े, बड़े, अजीब होते हैं। जैसे एक है, मॉडल Align, जिसे तुम सचमुच एक ऑडियो और उस ऑडियो का पहले से मौजूद ट्रांसक्रिप्ट दे सकते हो और यह उस ट्रांसक्रिप्ट में शब्द टाइमस्टैम्प सुधारता है-

47. 15:32 – 15:32 🗣 Jona

    हाँ।

48. 15:32 – 16:40 🗣 Wieland

    -इस, इस ट्रांसक्रिप्ट में। फिर एक मॉडल है जिसका नाम Clear है, जो बस ऑडियो में शोर-दबाने वाली चीज़ है। फिर मॉडल Clips है, जो, उम, टाइमस्टैम्प वाले ट्रांसक्रिप्ट से क्लिप के लिए कूल पल निकाल सकता है। उम, फिर एक मॉडल है जो खास तौर पर बस यह पता लगाने के लिए है कि ऑडियो में कौन सी भाषा बोली जा रही है। उसका नाम Ear है। फिर एक है जिसका नाम Emo है, जो बस यह काम करता है कि किसी टेक्स्ट के लिए एक इमोजी सुझाए। तो तुम देख रहे हो, ये बहुत सारे बहुत छोटे मॉडल्स हैं। कुछ तो लगभग एक दशमलव पाँच मेगाबाइट के हैं। बस। फिर एक मॉडल है जो, उम, उम, पोस्ट्स के लिए टैग और विषय बनाता है। फिर, उदाहरण के लिए, एक मॉडल है जो, उम, टेक्स्ट में personally identifiable information ढूँढकर सेंसर करने के लिए है। और वहाँ एक बहुत ही अजीब भी है, जहाँ तुम उँगली से खींची एक लाइन से लगभग एक परफेक्ट आकार बना देते हो। यानी तुम अपने, अपने डिवाइस पर एक लाइन खींचते हो- -और लगभग उस लाइन की, एक लगभग परफेक्ट लाइन के SVG निर्देशांक वापस पाते हो।

49. 16:40 – 16:40 🗣 Jona

    म्हम।

50. 16:41 – 17:38 🗣 Wieland

    ये सब ऐसी मज़ेदार चीज़ें। कुछ जो टाइटल बनाता है, कुछ-- यह, यह, यह, यह बहुत ज़बरदस्त है। और फिर बेशक कुछ, उम, मॉडल्स भी हैं जो अभी बीटा में हैं, या अभी सार्वजनिक रूप से उपलब्ध नहीं हैं। और, वहाँ, उन्हें मैं अभी टेस्ट नहीं कर सका। वहाँ उदाहरण के लिए एक है जिसका नाम Eye है, जो तस्वीरों को सौंदर्य और सामग्री के हिसाब से वर्गीकृत और रैंक करता है। फिर एक मॉडल है जिसका नाम Face है, जो लोगों को पहचान सकता है, जैसे तुम्हारे फोन की गैलरी में तस्वीरों को इस आधार पर क्लस्टर करना कि उनमें कौन दिख रहा है। फिर एक मॉडल है जिसका नाम Moderator है। यह फोटो में न्यूडिटी पहचानने के लिए है। उम, एक मॉडल जिसका नाम, उम, Schemer है, जहाँ टेक्स्ट से कोई भी JSON निकाला जा सकता है। एक मॉडल जो हेट स्पीच पहचान सकता है और एक मॉडल जो, उम, यह पहचानने के लिए है कि ऑडियो या वीडियो में किसने कब क्या कहा। जो उदाहरण के लिए पॉडकास्ट प्रोसेसिंग के लिए बहुत अच्छा होगा। बस।

51. 17:38 – 17:48 🗣 Jona

    मैं तो अभी कहने ही वाला था, इन सारे ऑडियो मॉडल्स में- -जिनके बारे में तुमने अभी बात की, मैंने सोचा, यह तो असल में ठीक वही है- -जो तुम्हारी योजना थी या तुम पहले ही लागू कर चुके हो।

52. 17:48 – 17:48 🗣 Wieland

    हाँ।

53. 17:48 – 17:53 🗣 Jona

    और अब इसे बस ऐसे छोटे पैक किए मॉडल में आज़माना- -यह तो शानदार लगता है।

54. 17:54 – 17:54 🗣 Wieland

    वह-

55. 17:54 – 17:56 🗣 Jona

    तो क्या तुमने इस बारे में कुछ पता लगाया?

56. 17:56 – 18:15 🗣 Wieland

    उम, अरे, ध्यान दो जॉन, क्योंकि एक और बात थी— मैं तुम्हें बता सकता हूँ, उह, मैं हर हाल में, जैसा शायद तुमने हमारे YouTube चैनल पर भी देखा होगा, इस पूरे विषय में प्रगति कर रहा हूँ। इन मॉडलों के साथ नहीं, लेकिन उन्हें भी शामिल करने की कोशिश करूँगा। लेकिन एक बहुत दिलचस्प बात—

57. 18:16 – 18:33 🗣 Wieland

    जो हुई, वह इन मॉडलों के साथ मेरी इस व्यस्तता के दौरान कुछ ऐसा था जहाँ मैं धीरे-धीरे कहने लगा: ‘जोना, मुझे लगता है हम टिपिंग पॉइंट पर पहुँच गए हैं: आज के मॉडल जो नहीं कर सकते, ऐसा असल में कुछ नहीं है।’ यानी अब, वह जो आम इंसान रोज़ाना करना चाहता है।

58. 18:34 – 18:34 🗣 Jona

    हाँ।

59. 18:34 – 18:38 🗣 Wieland

    जाहिर है, उम, हम अभी सुन रहे हैं कि, उह, लगातार और ज़्यादा

60. 18:39 – 18:43 🗣 Wieland

    सदियों से अनसुलझी गणित की समस्याएँ हल की जा रही हैं।

61. 18:43 – 18:44 🗣 Jona

    सही, हाँ।

62. 18:44 – 18:51 🗣 Wieland

    ठीक है, लगता है। लेकिन, उम, OpenAI का नया मॉडल, GPT-6 Astra आ गया है।

63. 18:52 – 18:52 🗣 Jona

    हाँ।

64. 18:52 – 19:25 🗣 Wieland

    और थिबॉ, हमारे प्रभु और उद्धारक, [हंसते हुए] ने एक रीसेट दिया, तो मैं स्वाभाविक रूप से उसके साथ थोड़ा खेल सका और मैंने वही चीज़ें आज़माईं जो, उम, सब लोग आज़मा रहे थे। उदाहरण के लिए, जब हम कुछ हफ़्ते पहले बामबर्ग में कैंपस-मीडियाटेजन में थे, उम, तब मैंने हमारे यूथ हॉस्टल के कमरे की एक तेज़ रूम-टूर फिल्माई और उस रूम-टूर का बस वीडियो, मैंने एस्ट्रा को दिया, ब्लेंडर खोला, ब्लेंडर MCP इंस्टॉल किया और कहा: ‘इस कमरे को 3D मॉडल के रूप में बना दो।’

65. 19:25 – 19:25 🗣 Jona

    हाँ।

66. 19:25 – 20:07 🗣 Wieland

    और उसने बस कर दिया। और वह वाकई बहुत अच्छा दिख रहा था, शेडर वगैरह के साथ, और मैं जितना उम्मीद कर रहा था उससे कहीं ज़्यादा शानदार लग रहा था। वह कमाल का था। और मैं उसे कोई ऐसा काम नहीं दे सका जो वह न कर पाए। और फिर मुझे यह समस्या मिली: जब मैंने— मैंने स्वाभाविक रूप से कोडेक्स से कहा: ‘देखो, मेरे लिए एक तेज़ Android ऐप लिखो, जिससे मैं इन सारे मॉडलों को अपने फ़ोन पर आसानी से टेस्ट कर सकूँ।’ उसने वह भी कर दिया, लेकिन मैंने यह भी पढ़ा कि ये मॉडल, इनमें से कुछ क्लोज़्ड बीटा में नहीं हैं, लेकिन फ़िलहाल— ये असल में हमेशा Android, iOS और JavaScript के लिए आते रहे हैं। कुछ मॉडल, खासकर ऑडियो वाली चीज़ें—

67. 20:08 – 20:08 🗣 Jona

    हम्म।

68. 20:08 – 20:14 🗣 Wieland

    —फ़िलहाल सिर्फ़ Apple Intelligence के लिए हैं। तो, और यह स्वाभाविक रूप से बुरा था, क्योंकि मेरे पास iPhone नहीं है।

69. 20:15 – 20:15 🗣 Jona

    हाँ।

70. 20:16 – 20:39 🗣 Wieland

    और फिर मैंने बस थोड़ा शोध किया, और इसका मतलब है कि मैंने एक और ChatGPT इंस्टेंस से पूछा: ‘यहाँ ये, ये Apple के मॉडल, ये पॉइंट M मॉडल, M मॉडल C-फ़ाइलें, जो Neural Engine के लिए हैं,’ कहता है, यानी, क्या इनमें मूल रूप से सारी जानकारी होती है कि इन्हें कहीं और चलाया जा सके या इन्हें कन्वर्ट किया जा सके?

71. 20:39 – 20:39 🗣 Jona

    हम्म।

72. 20:39 – 20:51 🗣 Wieland

    और फिर चैटी ने कहा: ‘हाँ, तो सिद्धांत रूप में इनमें सारी जानकारी होनी चाहिए,’ और मैं अब इंटरनेट पर यह भी पा सका कि कुछ लोगों ने ऐसा कन्वर्टर लिखने की कोशिश की थी।

73. 20:51 – 20:51 🗣 Jona

    हम्म।

74. 20:51 – 21:06 🗣 Wieland

    लेकिन पक्का कोई तैयार चीज़ नहीं है जहाँ आप इसे बस अंदर-बाहर डाल सकें। और फिर मैं सीधे Codex के पास गया, GPT-6 Astra को बहुत हाई पर चालू किया और कहा: ‘इनमें से कुछ मॉडल सिर्फ़ Apple के लिए हैं। इसे बदल दो।’

75. 21:06 – 21:07 🗣 Wieland

    [हंसते हुए]

76. 21:08 – 21:08 🗣 Wieland

    और उसने कर दिया।

77. 21:09 – 21:09 🗣 Jona

    हाँ।

78. 21:09 – 21:28 🗣 Wieland

    उसने इन मॉडलों को ONNX फ़ॉर्मैट में कन्वर्ट करने का एक तरीका खोजा, ईजाद किया, और अब मैं इन मॉडलों को अपने Android फ़ोन पर आज़मा सका। मैंने बस सोचा: ‘धीरे-धीरे, अब तो ऐसा कुछ भी नहीं बचा जो ये मॉडल न कर सकें।’

79. 21:28 – 21:28 🗣 Jona

    हाँ।

80. 21:29 – 21:53 🗣 Wieland

    तो हर एक, तो— और फिर मैंने, मैंने इतनी चीज़ें कीं, बस यह देखने के लिए, यह देखने के लिए कि क्या ऐसा कुछ है जो ये मॉडल नहीं कर सकते, खासकर अब गेम बनाने और 3D चीज़ों में। यानी मैंने, मैंने इतने टेस्ट किए, बस यह देखने के लिए कि चलो, कभी-कभी तो इसे फेल होना ही चाहिए। मेरे कंप्यूटर पर एक इमोजी की रैंडम फ़ोटो थी, मैंने उसे डाला, कहा: ‘इस इमोजी को 3D मॉडल के रूप में बना दो।’

81. 21:54 – 21:54 🗣 Jona

    हाँ।

82. 21:54 – 22:07 🗣 Wieland

    ‘लेकिन ठीक उसी टेक्सचर और शेडिंग के साथ, जैसा तस्वीर में दिख रहा है।’ उसने बस कर दिया। मैंने जितना सोचा था उससे कहीं ज़्यादा जटिल भी। फिर मेरे पास एक, एक, एक Assetpack से, एक शहर वाले गेम का एक टेम्पलेट था—

83. 22:08 – 22:08 🗣 Jona

    हम्म।

84. 22:08 – 22:25 🗣 Wieland

    —जहाँ सब कुछ इतना स्थिर था। तब मैंने सोचा: ‘यहाँ, यह शहर का एसेट है।’ मैंने Godot खोला और कहा: ‘इसमें जान डाल दो। कारें सचमुच चलें और सड़क पर रहें और सब कुछ, और मुड़ें, और हवाई जहाज़ उड़ें, और, और सब कुछ...’ और वह बोला: ‘हाँ, ठीक है, कर दिया।’ और उसने कर दिया।

85. 22:25 – 22:25 🗣 Wieland

    [हंसते हुए]

86. 22:25 – 22:28 🗣 Wieland

    तो यह सचमुच कमाल है।

87. 22:28 – 22:28 🗣 Jona

    हाँ।

88. 22:28 – 22:36 🗣 Wieland

    बस एक ही चीज़ जो तुम्हें असल में— यानी असल में जो एकमात्र चीज़ सीमित करती है, वह है, [हंसते हुए] कि तुम्हारे पास सौ यूरो या दो सौ यूरो का सब्सक्रिप्शन है।

89. 22:36 – 22:36 🗣 Wieland

    [हंसते हुए]

90. 22:36 – 22:46 🗣 Wieland

    और सौ यूरो वाले सब्सक्रिप्शन वाले इंसान के रूप में, सांख्यिकीय रूप से मैं वही आम आदमी हूँ, जिसके पास सौ यूरो वाले सब्सक्रिप्शन के चार गुना उपयोग के लिए दो सौ यूरो वाला सब्सक्रिप्शन नहीं है।

91. 22:46 – 22:47 🗣 Jona

    हम्म।

92. 22:47 – 23:06 🗣 Wieland

    लेकिन यह मुझे सचमुच बहुत कमाल लगता है और मैं अपने अंदर थोड़ा-सा महसूस करता हूँ, यानी वहाँ मुझे एक Decision Fatigue महसूस होता है। असल में Decision Fatigue को ऐसे समझाया जाता है कि जब आप लोगों को, मान लीजिए, कुछ तय करके नहीं देते, बल्कि उन्हें बहुत, बहुत सारे विकल्प देते हैं, तो उनका कोई चुनाव करने का मन ही नहीं रहता।

93. 23:06 – 23:06 🗣 Jona

    हाँ।

94. 23:06 – 23:30 🗣 Wieland

    कभी-कभी लोगों को कम विकल्प देना या बिल्कुल भी विकल्प न देना ही बेहतर होता है। क्योंकि कभी-कभी वे फैसला नहीं करना चाहते, जब आप उन्हें बहुत सारे विकल्प देते हैं। और ऐसा कुछ मैं अपने अंदर भी महसूस करता हूँ, जोना। यानी मुझे लगता है कि चूँकि मैं एआई से लगभग सब कुछ कर सकता हूँ, मैं किसी तरह एआई से कुछ भी नहीं करना चाहता। तो, यही बात है, मुझे यह महसूस होता है।

95. 23:30 – 23:36 🗣 Jona

    और हमेशा की तरह, हर क्रंच टाइम में हम अंत में दार्शनिक सवालों पर पहुँच जाते हैं। सही।

96. 23:36 – 23:46 🗣 Wieland

    और खासकर, यह भी थोड़ा ऐसा है, यानी मैं हूँ, मैं हूँ, मुझे ईर्ष्या है या मैं, यानी मैं उन लोगों के लिए खुश हूँ जो सचमुच एआई की मदद से बिज़नेस खड़ा कर रहे हैं।

97. 23:46 – 23:46 🗣 Jona

    हम्म।

98. 23:46 – 24:08 🗣 Wieland

    क्योंकि मैं तुम्हें, मैं तुम्हें और आप सबको थोड़ी-सी झलक दे सकता हूँ। तो शायद मैं और एक दोस्त पर्दे के पीछे किसी चीज़ पर काम कर रहे हैं, लेकिन सच में ऐसा है कि मैं सोचता हूँ, मेरा मतलब, मैं यह ज़्यादातर इसलिए करता हूँ क्योंकि मुझे इसमें मज़ा आता है, पर मुझे किसी भी चीज़ के लिए बाज़ार नहीं दिखता। यानी मैं सोचता हूँ, जो हम कर रहे हैं, हमारे पास, हमारे पास, हमारे पास कोई तथाकथित चलन नहीं है।

99. 24:08 – 24:09 🗣 Jona

    हाँ।

100. 24:09 – 24:19 🗣 Wieland

     तो मोटे तौर पर, हम जो कर रहे हैं वह कर सकते हैं, और जैसे ही किसी को आइडिया आता है: “अरे, मैं भी वही करना चाहता हूँ, बिल्कुल वही, बस दो प्रतिशत बेहतर।”

101. 24:19 – 24:19 🗣 Jona

     हाँ।

102. 24:19 – 24:25 🗣 Wieland

     फिर उसने सैद्धांतिक रूप से एक ही दोपहर में कर लिया, क्योंकि आजकल एआई एजेंट्स ये सब कर सकते हैं।

103. 24:26 – 24:42 🗣 Wieland

     तो यानी वहाँ क-, यानी यह, यह है, हाँ, मैं उत्सुक हूँ कि चलन कहाँ रहेगा। यानी मुझे थोड़ा डर है या मैं सोचता हूँ कि चलन फिर भी मानव, मानव रचनात्मकता और मानव पसंद ही रहेगा।

104. 24:42 – 24:42 🗣 Jona

     हाँ।

105. 24:43 – 24:54 🗣 Wieland

     समझ रहे हो? क्योंकि मैं सोचता हूँ, यानी सैद्धांतिक रूप से आजकल कोई भी हर वीडियो गेम बहुत कम समय में बना सकता है। सवाल बस यह है: क्या आइडिया अच्छा है?

106. 24:55 – 24:56 🗣 Jona

     हाँ। [आह भरता है]

107. 24:56 – 25:01 🗣 Wieland

     तो सिद्धांत रूप में मैं, मैं, मैं, अगर मन करता, तीस अपने वॉच-डॉग्स गेम बना सकता हूँ।

108. 25:02 – 25:02 🗣 Jona

     हाँ।

109. 25:02 – 25:12 🗣 Wieland

     सवाल यह है: क्या वे असली वालों से बेहतर हैं? [हँसी] होंगे, होंगे, अगर मेरे पास शानदार आइडिया हैं और मैं एआई को वे शानदार आइडिया डालने का निर्देश देता हूँ, और अगर नहीं, तो नहीं।

110. 25:13 – 25:15 🗣 Jona

     अब मैं इसका क्या जवाब दूँ? [हँसी]

111. 25:15 – 25:21 🗣 Wieland

     खैर, पता नहीं। क्या, क्या, तुम क्या सोचते हो? तुम क्या सोचते हो, यह कैसे विकसित होगा? मुझे तो नहीं लगा था कि यह इतनी जल्दी हो जाएगा। और-

112. 25:21 – 25:21 🗣 Jona

     हाँ।

113. 25:22 – 26:26 🗣 Wieland

     और मैं यह कहूँगा कि तुमने भी ज़रूर सुना होगा कि हाल के समय में यह पूरा For Real AI Doom Talk, जैसे मैं कहूँ, ज़ोरों पर चल रहा था। खासकर न्यूरालिसिस के साथ और इस पूरे सिलसिले के साथ। यानी वहाँ, वहाँ बहुत सारी फेक न्यूज़ थीं, और मैं शुरुआत में थोड़ा-सा खुश भी हुआ था कि मैं यहाँ क्रंच टाइम में बैठूँगा और तुमसे कहूँगा: “हाँ, जोना, तुम्हें पता है, इस पेपर AI 2027 में एक अहम टिपिंग पॉइंट है, कि, उम, सारी एआई कंपनियाँ किसी समय कहेंगी कि एआई अब इस बात के लिए बाध्य नहीं हैं कि वे अंग्रेज़ी में बोलकर बताएँ कि वे क्या सोचती हैं, बल्कि वे लगभग शुद्ध वेक्टर में सोच सकती हैं, जिससे वे बहुत बेहतर सोच पाती हैं, लेकिन हम अब यह नियंत्रित नहीं कर सकते कि वे क्या सोचती हैं।” और यह इस काल्पनिक कहानी में एक बड़ा कारण है कि इंसान एआई पर नियंत्रण क्यों खो देते हैं। और असल में मैं अब यहाँ बैठकर यह कहना चाहता था: “हाँ, तुम्हें पता है, और फिर OpenAI ने सोचा: ‘फोर्प, मुझे पता है कि आज हम क्या करने वाले हैं।’” [हँसी] लेकिन ऐसा शायद पूरी तरह नहीं हुआ।

114. 26:27 – 26:27 🗣 Jona

     हाँ।

115. 26:27 – 26:28 🗣 Wieland

     लेकिन यह वाकई

116. 26:29 – 26:37 🗣 Wieland

     गंभीर है, कि, यानी मुझे लगता है, त्वरण बहुत महसूस होता है। मैंने नहीं सोचा था कि इतनी जल्दी इतना क्रूर हो जाएगा।

117. 26:37 – 27:10 🗣 Jona

     और शुरुआत में हमारे पास बस ऐसी, ऐसी बहुत साधारण बातें थीं जैसे: ओ, वहाँ, यह अब, तब बात अभी बस GPT थ्री या कुछ ऐसी ही थी। तुम, तुम्हें शायद अभी भी इस बारे में हमारी पहली बातचीत याद होगी, जब हमने कहा था, जब तुमने मुझे समझाया था: “हाँ, तब तुम, तुम्हारे पास असल में एक ऐसा फंक्शन होगा जो तुम्हें एक खास तरीके से प्राकृतिक भाषाई टेक्स्ट दे सकता है।” हाँ, lol। [हँसी] यह कहाँ तक पहुँच गया। मुझे लगता है, इस पर सोचने के लिए मुझे फिर एक बिज़नेस मंथ चाहिए। [हँसी] यह इस हद तक गहरा है।

118. 27:10 – 27:30 🗣 Jona

     नहीं, उम्म, उफ़, यह सिद्धांत रूप में डेवलपर्स के लिए भी बेहद मुश्किल बना देता है, क्योंकि, क्योंकि अंत में तुम्हें कम और कम चीज़ें नियंत्रित या ठीक करनी पड़ती हैं। कि फिर अंत में वाकई वह कोड, वह कोड, मैं यह नहीं कहना चाहता कि बेकार है, लेकिन वह कोड, ए, लेकिन प्रोग्रामिंग असल में बेकार है।

119. 27:31 – 27:31 🗣 Wieland

     हाँ।

120. 27:31 – 27:59 🗣 Jona

     क्योंकि कंप्यूटर को वह सिखाना, जो आप चाहते हैं, बहुत ज़्यादा सुलभ हो गया है, और यह पहले से ही इतने चरम स्तर पर पहुँच गया है, जैसा लोग, आंशिक रूप से, भोले-भाले लोग दस साल पहले कल्पना करते थे—कि मैं कंप्यूटर से कुछ कहूँ और उसे ठीक वही करना है। कि हम वाकई अब उस स्तर पर हैं, जहाँ हमने अनुवादक, यानी इस मामले में डेवलपर, को बस पूरी तरह बाहर कर दिया है—

121. 27:59 – 28:00 🗣 Wieland

     हाँ।

122. 28:00 – 28:01 🗣 Jona

     इस प्रक्रिया से।

123. 28:01 – 28:17 🗣 Wieland

     और मुझे खास तौर पर यह बहुत दिलचस्प लगता है, उम्म, अगर आप सोचें, मेरे पास, यानी पहले तो लोग हमेशा ऐसा सोचते थे, ठीक है, आप हमेशा उन स्टार ट्रेक वाले परिदृश्यों की कल्पना करते हैं, जहाँ वे अपने जहाज़ पर कमोबेश एक सुपर-इंटेलिजेंट कंप्यूटर भी रखते हैं।

124. 28:17 – 28:17 🗣 Jona

     हाँ।

125. 28:18 – 28:21 🗣 Wieland

     उम्म, जिसे सैद्धांतिक रूप से भाषा के ज़रिए बस सब कुछ बता सकते हैं।

126. 28:22 – 28:22 🗣 Jona

     हाँ।

127. 28:22 – 28:28 🗣 Wieland

     और अब तक तो धारणा हमेशा ऐसी ही थी: ठीक है, बिल्कुल ऐसा नहीं है, क्योंकि आजकल हमें तो डेटा सेंटर चाहिए होते हैं।

128. 28:28 – 28:28 🗣 Jona

     हाँ।

129. 28:28 – 28:30 🗣 Wieland

     तो, तुम ऐसा डेटा सेंटर अपने साथ लेकर नहीं घूम सकते।

130. 28:30 – 28:31 🗣 Jona

     हाँ।

131. 28:31 – 29:03 🗣 Wieland

     लेकिन मेरा मतलब है, यह और ज़्यादा उस दिशा में जा रहा है कि तुम, मान लीजिए, कुछ खास तरह की हार्डवेयर से भरे सर्वर-रैक के साथ यह ज़रूर कर सकते हो। तो अगर हम अब शायद स्पेसशिप से थोड़ा हटें, तो यह बात खत्म होती है और हम थोड़ी देर, हम थोड़ी देर धरती पर ही रहते हैं और उदाहरण के लिए, विमानवाहक पोत जैसी किसी चीज़ की बात करते हैं। जो भी, जैसे, एक बड़ा, यह एक बड़े स्पेसशिप जैसा है, बस अंतरिक्ष में नहीं, बल्कि समुद्र पर, समुद्र में। तो, यह पूरी तरह कल्पनीय है कि तुम्हारे पास एक विमानवाहक पोत हो।

132. 29:03 – 29:04 🗣 Jona

     हाँ।

133. 29:04 – 29:17 🗣 Wieland

     और उसमें कहीं एक सर्वर कक्ष है, जहाँ ऐसी विशेष हार्डवेयर वाला एक रैक रखा है, और असल में वही एक कंप्यूटर है जो वहाँ अब भी मौजूद है। और लोग बस पूरे समय उसी से बात करते रहते हैं।

134. 29:18 – 29:18 🗣 Jona

     हाँ।

135. 29:18 – 29:29 🗣 Wieland

     जो किसी तरह से वही है, जो इंसान असल में हमेशा कंप्यूटर से चाहता आया है, बस अब तक कर नहीं पाया था। मुझे लगता है, वह बस ऐसा ही था, जो—

136. 29:29 – 30:03 🗣 Jona

     लेकिन यह भी हमेशा, यह भी हमेशा इन कहानियों का मुद्दा रहा है, ताकि यह भी बताया जाए कि यह कितना खतरनाक हो सकता है। इसलिए मैं नहीं जानता कि इसे इच्छाओं के साथ कैसे वर्गीकृत किया जा सकता है। और इसके अलावा, यह हमेशा थोड़ा-सा, मैं यह नहीं कहना चाहता कि किसी तरह का प्लॉट पॉइंट है, लेकिन लोर का हिस्सा भी है, कि तुम, उम्म, कि तुम वहाँ ऊर्जा की इतनी बड़ी मात्रा कैसे पाते हो, ताकि फिर अपनी पूरी तकनीक चला सको। मुझे लगता है, इस ढाँचे में यह भी सोचा जा सकता है कि वहाँ वाकई कहीं एक सर्वर-रैक रखा हो।

137. 30:03 – 30:03 🗣 Wieland

     हाँ।

138. 30:04 – 30:12 🗣 Jona

     और इसे उस, मैं कहूँगा, मन-मनमाने ऊर्जा स्रोत से, जो लेखक ने वहाँ सोच रखा है, फिर उसी से चलाना।

139. 30:12 – 30:30 🗣 Wieland

     नहीं, मैं अब असल में यह कह रहा था कि मैं दावा करूँगा कि अतीत में समाज से, मैं कहूँगा, बहुत बार वास्तव में वह वादा किया गया था, जो आज कंप्यूटर के साथ बातचीत के मामले में धीरे-धीरे सच हो रहा है। तो, अकेले, अगर हम सिरी के बारे में सोचें—

140. 30:30 – 30:30 🗣 Jona

     हाँ।

141. 30:31 – 30:50 🗣 Wieland

     या अकेले भी, मैं कहूँगा, उस, उस खुद, मैं कहना चाहता हूँ, खुद कमांड लाइन भी कमोबेश एक तरह से यही थी: “अरे, देखो, तुम कर सकते हो, यानी नहीं, तुम बस कंप्यूटर के साथ इंटरैक्ट करते हो, लेकिन तुम्हें एक खास मोडैलिटी इस्तेमाल करनी पड़ती है। तुम्हें उसकी भाषा बोलनी पड़ती है।” तो, और हम धीरे-धीरे इस ओर बढ़ रहे हैं कि बस कंप्यूटर से बात कर सकें।

142. 30:51 – 31:06 🗣 Jona

     सही। और मॉनिटर और डेस्क और उन सारी डेस्कटॉप-उपमाओं के साथ, जो यह अपने साथ लेकर आया, अंत में बात बिल्कुल वैसी ही थी: ओह, अब तुम्हारे पास कंप्यूटर से इंटरैक्ट करने का बहुत ज़्यादा सहज तरीका है, जैसा तुम अब, अब तक चाहते रहे हो। सिर्फ यह नहीं: आह, ठीक है, अब तुम्हें—

143. 31:07 – 31:23 🗣 Jona

     तुम्हें बस सारे कमांड याद रखने पड़ते हैं और उन्हें सही क्रम में चलाना पड़ता है, ताकि तुम ठीक XY वह और यह कर सको। और अंत में तो बहुत सारे लोगों ने यह छोटा-सा कदम भी पहले ही चाहा था, क्योंकि यह अभी भी झंझट भरा है और इसीलिए नवाचार होता है।

144. 31:23 – 31:29 🗣 Wieland

     इसलिए। मैं कहूँगा, मुझे लगता है, एक्सेलेरेशन इस समय बहुत ज़्यादा है और-

145. 31:29 – 31:40 🗣 Jona

     और यह भी कि ऐसे मॉडल हैं जो, उम, डिवाइसों पर समझदार आउटपुट दे सकते हैं। यह शायद सबसे बड़े गेम चेंजर में से एक है।

146. 31:40 – 31:47 🗣 Wieland

     हाँ, लेकिन मुझे यह भी इस मायने में बहुत अच्छा लगता है कि एक प्रोग्रामर के तौर पर यह महीना मेरे लिए वाकई एक सपने जैसा रहा।

147. 31:48 – 31:48 🗣 Jona

     हाँ।

148. 31:48 – 32:17 🗣 Wieland

     क्योंकि मुझे लगता है, देखो, मुझे यह अच्छा लगता है कि मुझे अपने साथ पूरा भाषा मॉडल ढोना न पड़े, जो कि लगभग सब कुछ या सारी चीज़ें कर सकता है। लेकिन अगर मैं वास्तव में कहूँ कि मुझे सिर्फ़ एक ऐसा भाषा मॉडल चाहिए जो नफ़रत भाषण पहचान सके, क्योंकि असल में यही मेरी बात है। और अब इसका कोई मतलब नहीं है कि उपयोगकर्ता चार दशमलव पाँच गीगाबाइट का भाषा मॉडल अपने फ़ोन पर डाउनलोड करे और फिर उसे वहीं चलाए, सिर्फ़ इसलिए कि वह यह एक ख़ास काम कर सके।

149. 32:17 – 32:17 🗣 Jona

     हाँ।

150. 32:17 – 33:03 🗣 Wieland

     तो, इसलिए यह बहुत शानदार है। और जेफ के साथ भी, जैसा कहा, मैं उत्सुक हूँ, उह, और क्या-क्या संभव होगा। मेरे भी कुछ अपने आइडियाज़ हैं कि इससे क्या किया जा सकता है। लेकिन इस बात का एक उदाहरण कि यह सब कितना ज़बरदस्त है, उम, कि AI अपना काम पूरा करने के लिए सचमुच हद तक चले जाते हैं: मैंने ChatGPT से और गलती से वेबसाइट पर वर्क मोड में, कोडेक्स में नहीं, वेबसाइट पर, लेकिन वर्क मोड में गलती से पूछा: “अरे ChatGPT, Minecraft में ट्रायल स्पॉनर के साथ, क्या मैं डेटा पैक या ऐसा कुछ करके उन्हें ट्रिगर कर सकता हूँ, भले ही वे किसी खिलाड़ी को देख न पाएँ?”

151. 33:04 – 33:04 🗣 Jona

     हम्म।

152. 33:04 – 33:13 🗣 Wieland

     उम, और मैंने सोचा, हाँ, चैटी अब इंटरनेट देखेगा, Reddit पर खोजेगा और Minecraft विकी पेज पढ़ेगा।

153. 33:13 – 33:14 🗣 Jona

     [हँसता है] हाँ।

154. 33:14 – 33:17 🗣 Wieland

     तुम्हें पता है, मेरे सवाल का जवाब देने के लिए उसने क्या किया?

155. 33:17 – 33:18 🗣 Jona

     नहीं।

156. 33:18 – 33:32 🗣 Wieland

     उसने Minecraft डाउनलोड किया, डेवलपमेंट वर्शन, जो अब ऑबफस्केटेड नहीं है, और कोड में देखा कि ट्रायल स्पॉनर कैसे काम करता है। क्योंकि विकी, विकी तो गलत भी हो सकती है।

157. 33:33 – 33:34 🗣 Wieland

     हाँ, LOL। [हँसता है]

158. 33:34 – 33:39 🗣 Wieland

     तो, फिर वह कहता है: “हाँ, हाँ, मैंने अब देख लिया। ऐसा और ऐसा है। पक्का।”

159. 33:39 – 33:42 🗣 Jona

     और 'पक्का' का मतलब बस यही है, हाँ, कोड में ऐसा ही लिखा है।

160. 33:42 – 33:43 🗣 Wieland

     हाँ, बिल्कुल।

161. 33:43 – 33:43 🗣 Jona

     मज़े करो, हाँ।

162. 33:44 – 33:46 🗣 Wieland

     तो, यह, यह तो, यह तो बिल्कुल ज़बरदस्त है।

163. 33:46 – 33:46 🗣 Jona

     हाँ।

164. 33:46 – 33:55 🗣 Wieland

     सच में, हम सब AI का पूरा इस्तेमाल नहीं कर रहे। अब तो मैं भी नहीं। मैं भी अब जो संभावनाएँ हैं, उनका ठीक से फ़ायदा नहीं उठा रहा।

165. 33:55 – 33:55 🗣 Jona

     हाँ।

166. 33:55 – 34:34 🗣 Wieland

     हाँ, तो, लेकिन मुझे लगता है कि एक्सेलेरेशन अब काफ़ी महसूस होने लगा है। सिर्फ़ इसी से, कि कितने और किस बढ़ी हुई रफ़्तार से नए AI मॉडल आ रहे हैं। तो, पहले आम तौर पर बड़े मॉडलों के बीच तीन-चार महीने होते थे और अब ऐसा लगता है, यानी अब मैं ऐसे YouTuber जानता हूँ जो हर दिन एक वीडियो बनाते हैं जिसमें AI मॉडलों से जुड़े नए विकास को समेटते हैं। बेशक, उसमें बहुत सारी अफ़वाहें वगैरह भी होती हैं, लेकिन असल में हर हफ़्ते दो से तीन नए AI मॉडल, फ्रंटियर AI मॉडल आ जाते हैं।

167. 34:34 – 34:34 🗣 Jona

     हम्म।

168. 34:34 – 34:41 🗣 Wieland

     और जैसा कहा, मैं, ऐसा लगता है कि हम सिंगुलैरिटी के बहुत करीब हैं, और मैं उत्सुक हूँ कि यह आगे कहाँ जाएगा।

169. 34:42 – 35:42 🗣 Jona

     मेरे पास अभी भी दो बहुत छोटे निगरानी वाले विषय हैं, जो अंत में फिर से पिछले क्रंच-टाइम विषयों से जुड़ते हैं। एक बात Waymo रोबो टैक्सी की है, जिन्होंने अब वाकई यह शुरू कर दिया है कि अगर उनकी रोबो टैक्सी में कोई अपराध जैसी सामग्री या चीज़ें हों, तो वे अब पुलिस को भी रिपोर्ट करते हैं। अमेरिका में अब दो टीनएजर गिरफ्तार किए जा चुके हैं, जो वहां गाड़ी में हथियार लेकर हरकत कर रहे थे। और हां, इससे फिर यह बहस थोड़ी जिंदा हो गई है कि आखिर क्या-क्या मॉनिटर किया जा रहा है और उसे कैसे प्रोसेस किया जा रहा है। इस पर हमने सेल्फ-ड्राइविंग टेस्ला के बारे में भी बात की थी कि उनके कैमरे, सिर्फ अंदर के कैमरे ही नहीं, बाहर के कैमरे भी सिद्धांत रूप में क्या-क्या रिकॉर्ड कर सकते हैं और क्या

170. 35:43 – 36:38 🗣 Jona

     उसमें सब कुछ शामिल है। कुछ महीने पहले Meta Smart Glasses के साथ भी वही समस्या हुई थी, जहां मेरे कहने का मतलब है, काफी बिना फ़िल्टर के Meta कर्मचारियों तक चला गया और फिर आप वाकई स्पष्ट सामग्री और निजी पलों को संबंधित खरीदार के रूप में देख सकते थे। लेकिन यह कुछ महीने पहले की बात है, शायद छह महीने पहले भी। और ठीक इस Smart Glasses विषय पर, हमने पहले भी बात की थी, मैं कहूंगा, Watch Dogs जैसी व्यक्ति एनोटेशन के बारे में, और ऐसा कुछ अब Facebook यानी Meta पर भी है, चाहे आप उसे जो भी कहें। और वहां भी एक विवाद था, जहां पोस्ट्स पर एनोटेटेड डेटा था, जिसमें संबंधित व्यक्ति का निजी डेटा भी प्रकाशित

171. 36:38 – 36:54 🗣 Jona

     किया गया। वहां Meta AI से ठीक ऐसा सवाल आया था: 'ओह, क्या आप इस बच्चे को जानते हैं, जो दाईं ओर है?' आपने भी वह पोस्ट या उस पर की रिपोर्टिंग ज़रूर देखी होगी, जहां आप

172. 36:55 – 37:19 🗣 Jona

     जहां आप अकॉर्डियन खोल सकते थे और उसमें मां और मुझे लगता है उसके और उसके बच्चे की वैध व्यक्तिगत जानकारी थी, यानी पिछला और वर्तमान पता और नाम, पूरे नाम के साथ, बच्चे का पहला और अंतिम नाम इत्यादि। इसके लिए Meta को भी थोड़ी फटकार पड़ी।

173. 37:19 – 37:22 🗣 Wieland

     लेकिन क्या तुम मुझे फिर बता सकते हो?

174. 37:22 – 37:22 🗣 Jona

     हम्म।

175. 37:22 – 37:24 🗣 Wieland

     यानी मुझे नहीं पता कि मुझे ठीक से याद है।

176. 37:25 – 37:25 🗣 Jona

     हां।

177. 37:25 – 37:37 🗣 Wieland

     मुझे लगता है कि यह बात थी कि इससे ज़्यादा यह खुलासा हुआ कि ये सारी जानकारी कमोबेश पहले से ही उपलब्ध थी।

178. 37:37 – 37:37 🗣 Jona

     सही।

179. 37:37 – 37:38 🗣 Wieland

     अगर मैंने यह समझा-

180. 37:38 – 37:39 🗣 Jona

     बिल्कुल।

181. 37:39 – 37:49 🗣 Wieland

     -तो यह सिर्फ इसलिए काम कर पाया क्योंकि Meta AI उन चीज़ों का इस्तेमाल कर रहा था जो परिवार की दूसरी पोस्टिंग्स में उपलब्ध थीं।

182. 37:49 – 38:06 🗣 Jona

     सही। इसका मतलब यह कि उसके पास उन तक पहुंच थी और उसने उन्हें प्रोसेस किया। सही, यह अगली बात है जिस पर मैं आगे आता। तुमने इसे बहुत अच्छे से सारांशित कर दिया। हां, कि Meta ने इसे एकत्र किया और इस तरह के पैमाने पर संसाधित भी कर सकता है।

183. 38:06 – 38:19 🗣 Wieland

     लेकिन नहीं, मेरा मतलब अभी यह था कि ये सिद्धांत रूप में ऐसी जानकारी है जिसे कोई भी इंसान, जो बस इस अकाउंट की पोस्टिंग्स देखे, वह भी मेरे कहने से, फिर से बना सकता है।

184. 38:19 – 38:20 🗣 Jona

     इसका मतलब ज़रूरी नहीं कि ऐसा ही हो।

185. 38:21 – 38:21 🗣 Wieland

     ठीक।

186. 38:21 – 39:10 🗣 Jona

     क्योंकि Meta खुद भी बहुत सारा डेटा इकट्ठा करता है, जो निश्चित रूप से उनका बिज़नेस मॉडल भी है। और ऐसी बहुत चीज़ें हैं जिन्हें तुम खुद हासिल नहीं कर सकते। बेशक, तस्वीरों और पोस्ट्स और टाइमस्टैम्प और विवरणों से तुम बहुत कुछ निकाल सकते हो, यह साफ है। और कोई दूसरा व्यक्ति भी तुम्हारी ज़िंदगी के बारे में बहुत कुछ अनुमान लगा सकता है। लेकिन तुम उसे उस confidence level तक नहीं ले जा सकते जो Meta के पास होता है, जब उसके पास तुम्हारी पूरी location history भी हो वगैरह। लेकिन हां, तुम सही हो, बाहरी व्यक्ति भी उससे बहुत सारा डेटा निकाल सकता है। लेकिन मुझे लगता है यह बात शायद सोशल मीडिया पर मौजूद हर व्यक्ति को पता होनी चाहिए, लेकिन निश्चित रूप से ऐसा नहीं है।

187. 39:10 – 39:34 🗣 Wieland

     और मुझे लगता है कि यह फिर एक उदाहरण है, इसलिए मैं पक्का करना चाहता था कि यह सच में इसका उदाहरण है, जैसे किसी को फटकार पड़ती है या उस पर विवाद होता है, क्योंकि यह बस ऐसा डेटा है जो हमेशा से उपलब्ध था, जिसे इस तरह पेश किया गया कि अब लोगों को लगा: ओह, यह डेटा तो उपलब्ध है।

188. 39:34 – 39:38 🗣 Jona

     हां, जहां अब यह एक वैध समस्या बन जाती है।

189. 39:38 – 39:39 🗣 Wieland

     हां।

190. 39:39 – 39:48 🗣 Jona

     और यह नहीं: अरे, ठीक है, मेरे डेटा का दुरुपयोग हो रहा है। हो सकता है यहां कहना चाहिए: 'अरे, ठीक है, वहां तो बहुत कुछ...'

191. 39:49 – 39:52 🗣 Jona

     कि अब हम इससे आंखें नहीं चुरा सकते।

192. 39:52 – 39:52 🗣 Wieland

     हां।

193. 39:52 – 40:03 🗣 Jona

     कि शुरुआत में हम बस अनजान थे और इसे वैसे ही स्वीकार कर लिया या सह लिया। और हां, ठीक है, लेकिन क्या अब सच में हमें Meta या Google के खिलाफ कुछ करना चाहिए?

194. 40:03 – 40:04 🗣 Wieland

     हम्म।

195. 40:04 – 40:17 🗣 Jona

     अरे, ऐसा ज़रूरी नहीं है। आखिर मैं भी इसका बहुत इस्तेमाल करता हूं और तुम भी, तो अंत में तुम अपने लिए बहाने ही ढूंढते हो। समझ रहे हो? और जब यह वाकई असली समस्या बन जाती है, तब बहुत शोर-शराबा होता है।

196. 40:18 – 40:19 🗣 Wieland

     जैसा कहा, अगर तुम मुझसे कहो कि यह-

197. 40:19 – 40:21 🗣 Jona

     लेकिन तब, जैसा कहा, देर हो चुकी होती है।

198. 40:21 – 40:22 🗣 Wieland

     हां बिल्कुल, लेकिन-

199. 40:22 – 40:28 🗣 Jona

     बात यह है कि वे इसे इकट्ठा करते हैं और प्रोसेस करते हैं, न कि यह कि उन्होंने इसे अब कैसे आउटपुट किया।

200. 40:28 – 40:40 🗣 Wieland

     नहीं, बिल्कुल। लेकिन बात यह है, अगर तुम मुझसे कहो कि फिर भी, इस मामले में Meta AI ने आंतरिक डेटा के साथ काम किया, यानी ऐसी चीज़ें जो सिर्फ सार्वजनिक पोस्ट्स से उपलब्ध नहीं थीं-

201. 40:40 – 40:40 🗣 Jona

     हां।

202. 40:40 – 40:46 🗣 Wieland

     -बल्कि यानी Meta का मॉडल, जो स्वाभाविक रूप से बैकएंड में है, उसका आंतरिक रूप से सब कुछ पर एक्सेस है।

203. 40:46 – 40:46 🗣 Jona

     हां।

204. 40:46 – 41:00 🗣 Wieland

     मैं- और उन्होंने शायद अच्छे कारणों से, यानी शायद उनके पास कोई विचार था, लेकिन ऐसा लगता है कि उन्होंने अनजाने में इसे ऐसे सेट कर दिया कि सार्वजनिक Meta AI, जिससे तुम किसी व्यक्ति की पोस्ट्स के बारे में पूछ सकते हो-

205. 41:00 – 41:00 🗣 Jona

     सही।

206. 41:01 – 41:10 🗣 Wieland

     -तुम्हारे पास उस व्यक्ति के बारे में Meta के पास मौजूद सभी डेटा का संदर्भ होता है। सिर्फ वह डेटा नहीं जो प्रोफाइल पर सार्वजनिक रूप से दिख सकता है।

207. 41:11 – 41:24 🗣 Jona

     हां, मेरी जानकारी के अनुसार ऐसा ही है। बेशक इसमें कुछ सीमाएं होंगी, शायद सब कुछ नहीं, मैं कहूंगा, सौ प्रतिशत नहीं। लेकिन निश्चित रूप से इसमें गैर-सार्वजनिक डेटा तक पहुंच भी शामिल है।

208. 41:24 – 41:44 🗣 Wieland

     बिल्कुल, क्योंकि इस महीने ऐसा ही कुछ हुआ, जिसने मुझे इसकी बहुत याद दिलाई और मुझे अपने पूरे... OpenStreetMap के साथ भी कभी-कभी ऐसा विवाद होता रहता है। मुझे नहीं पता कि तुमने इस पूरे प्रोजेक्ट God's Eye View के बारे में सुना है या नहीं।

209. 41:44 – 41:45 🗣 Jona

     नहीं, अभी नहीं।

210. 41:45 – 41:58 🗣 Wieland

     यानी एक डेवलपर ने बस, कहें तो, एक प्रोग्राम निकाला या कमोबेश एक बहुत अच्छी दिखने वाली, अंत में एक मैप एप्लिकेशन निकाली-

211. 41:58 – 41:58 🗣 Jona

     हां।

212. 41:58 – 42:14 🗣 Wieland

     -जिसमें उसने असल दुनिया की चीज़ों के बारे में बड़ी मात्रा में सार्वजनिक APIs को एक जगह मिला दिया। जैसे फ्लाइट रडार, सार्वजनिक रूप से उपलब्ध CCTV कैमरे।

213. 42:14 – 42:14 🗣 Jona

     हां।

214. 42:15 – 42:38 🗣 Wieland

     सैन्य चीज़ों के सार्वजनिक रूप से उपलब्ध रूट, और हर वह चीज़ जो सार्वजनिक रूप से देखी जा सकती है। और वहां भी, मैं कहूंगा, एक- और थोड़ा महसूस हुआ कि वह भी थोड़ा हार मान चुका था, क्योंकि शुरू में उसने इसे समझाने की कोशिश की थी, क्योंकि बहुत बार सवाल आता था: 'हां, लेकिन अरे, नहीं, क्या तुम्हें यह करने की इजाज़त है?'

215. 42:39 – 42:41 🗣 Wieland

     तो, क्या यह इजाज़त है? तो,

216. 42:42 – 42:58 🗣 Wieland

     व-वैसे क्यों और ऐसे भी: 'वाह, कमाल, यह आदमी वह कर लेता है जो हमारी सारी खुफिया एजेंसियां नहीं कर पातीं।' यानी क्योंकि, चाहे वह कितनी भी बार कहता, लोगों ने नहीं समझा, यह बस उस डेटा का विज़ुअलाइज़ेशन टूल है जो हमेशा से सार्वजनिक रहा है।

217. 42:59 – 42:59 🗣 Jona

     हां।

218. 42:59 – 43:30 🗣 Wieland

     और लोगों ने यह नहीं समझा और तुम- और तुम्हें लगता है, और मेरा मतलब है, मैं यह भी समझता हूं, क्योंकि इससे वह और कूल लगता है। किसी समय उसने वाकई, मैं कहूंगा, हार मान ली, इस पर उतर आया, क्योंकि मैं जानता हूं- उसने एक इंटरव्यू में कहा: 'हां, तो बहुत ज़रूरी है, मैंने लाइन खींच दी है: मेरे टूल से लोगों को ट्रैक नहीं किया जा सकता। मैंने इसे ऐसे बनाने का फैसला किया कि वहां सीमा रहे।' और मैं सोचता हूं: 'तुमने कोई लाइन नहीं खींची। ऐसा कोई सार्वजनिक API ही नहीं है जहां से तुम लोगों का डेटा ला सको।'

219. 43:31 – 43:33 🗣 Wieland

     हां। [हंसता है]

220. 43:33 – 43:37 🗣 Wieland

     तो, मुझे नहीं पता यह अब किस बारे में था, लेकिन मुझे लगता है, यह फिर वही बात है-

221. 43:38 – 43:38 🗣 Jona

     हां।

222. 43:38 – 43:55 🗣 Wieland

     -जहां यानी अब ये सारे AI विषय थोड़ा खुलासा करते हैं, जैसे David Grisel ने बहुत पहले Spiegel के साथ किया था, जब कहा गया: 'हां, नहीं, तुम शायद यह भी पता लगा सकते हो कि रेडैक्शन में कौन किसके साथ क्या है।'

223. 43:56 – 43:56 🗣 Jona

     हां।

224. 43:56 – 44:06 🗣 Wieland

     तो, फिर वह कहता है: 'क्या? क-क्या तुम्हें इसकी इजाज़त है? तुमने उन्हें हैक किया या तुम्हें यह कैसे पता?' और वह कहता है: 'नहीं, मैं यह सार्वजनिक रूप से उपलब्ध डेटा से पढ़ सकता हूं।'

225. 44:07 – 44:07 🗣 Jona

     हां।

226. 44:07 – 44:07 🗣 Wieland

     तो।

227. 44:08 – 45:28 🗣 Jona

     नहीं, यह बात है, हां, लेकिन यह, यह किसी को, जाहिर तौर पर कोई नहीं बताता कि हां, यह अपने आप में भी, अगर अभी खुफिया एजेंसी के काम की बात कर रहे हैं, तो यह भी असल में ज़्यादातर, यानी नब्बे, पंचानवे प्रतिशत असल में एक तरह का डेटा प्रोसेसिंग ही है, जो आम तौर पर खुले स्रोत वाले डेटा पर आधारित होता है, जहां तुम बस कहते हो: 'हां, ठीक है, तुम खुद चीज़ें, या तो सीधे खरीद सकते हो या सार्वजनिक डेटा को अपने लिए आगे प्रोसेस कर सकते हो।' और अंत में यही काम का सबसे बड़ा हिस्सा है, मैं कहूंगा, और फिर भी तुम्हारे पास दस प्रतिशत मसालेदार शरारतें रहती हैं, लेकिन वही खुफिया एजेंसी का काम रहता है और लोग सोचते हैं कि दस प्रतिशत ही नब्बे प्रतिशत है, न कि उलटा। और यह थोड़ा असंगत है। हां, बहुत बढ़िया, लेकिन मैंने इसे तुरंत नोट कर लिया और मैं भी देखूंगा कि इससे क्या-क्या किया जा सकता है। मुझे नहीं पता कि अभी और कौन-कौन से APIs हैं जिन्हें इसमें शामिल किया जा सकता है, सिवाय अब सार्वजनिक परिवहन, उड़ानें, जहाज़, नक्शे बेशक। मुझे तो पता ही नहीं, क्या केमनित्ज़ में सार्वजनिक रूप से उपलब्ध कैमरे हैं और कितने हैं?

228. 45:28 – 45:29 🗣 Wieland

     नहीं, नहीं, नहीं। तो जहां तक मुझे-

229. 45:29 – 45:29 🗣 Jona

     यह तो पहले से-

230. 45:29 – 45:45 🗣 Wieland

     -जहां तक मुझे पता है, कम से कम नहीं। लेकिन जैसा कहा, तुम बहुत कुछ अप्रत्यक्ष रूप से निकाल सकते हो। उदाहरण के लिए, हां, जैसे Transitions में हमने भी कहा था, सिर्फ सार्वजनिक परिवहन के रीयल-टाइम डेटा से तुम सैद्धांतिक रूप से निकाल सकते हो कि कोई बस अभी कहां है।

231. 45:46 – 45:46 🗣 Jona

     हां।

232. 45:46 – 45:47 🗣 Wieland

     उदाहरण के लिए।

233. 45:47 – 45:51 🗣 Jona

     और इस तरह बस ड्राइवर जैसे लोगों को भी ट्रैक किया जा सकता है।

234. 45:51 – 45:51 🗣 Wieland

     हां।

235. 45:52 – 45:53 🗣 Jona

     एक तरह से, हां।

236. 45:53 – 45:58 🗣 Wieland

     या फिर, तुम देरी से भी, जो सैद्धांतिक रूप से कहीं से भी पैदा होती है-

237. 45:59 – 45:59 🗣 Jona

     हां।

238. 45:59 – 46:02 🗣 Wieland

     -शायद थोड़ा अंदाज़ा लगा सकते हो कि कहां ट्रैफिक जाम है।

239. 46:02 – 46:02 🗣 Jona

     हां।

240. 46:02 – 46:04 🗣 Wieland

     सिर्फ सार्वजनिक परिवहन के डेटा से।

241. 46:04 – 46:04 🗣 Jona

     हां।

242. 46:04 – 46:27 🗣 Wieland

     और यह तो, हां, उदाहरण के लिए, ऐसी चीज़ भी, जो मुझे भी नहीं पता थी, उदाहरण के तौर पर शायद प्रकाशित भी होती है, यानी कुछ live डेटा, यह ज़्यादा अमेरिका के लिए प्रासंगिक है। पूरी दुनिया के लिए जंगल की आग के live डेटा हैं, जिन्हें तुम शामिल कर सकते हो। live डेटा हैं, यानी हर दिन बहुत सारे भूकंप आते हैं, बस वे आम तौर पर कमजोर होते हैं और उनके बारे में हमें पता नहीं चलता।

243. 46:27 – 46:27 🗣 Jona

     हां।

244. 46:27 – 46:30 🗣 Wieland

     लेकिन वहां भी live feeds हैं, जिन्हें तुम सब शामिल कर सकते हो। तो।

245. 46:30 – 46:30 🗣 Jona

     ओह।

246. 46:31 – 46:34 🗣 Wieland

     यह भी live डेटा है कि कौन-कौन से सैटेलाइट कहां से उड़ते हैं।

247. 46:34 – 46:35 🗣 Wieland

     सही,

248. 46:35 – 46:39 🗣 Wieland

     जो सार्वजनिक रूप से उपलब्ध हैं। और हां, तो यह सब हो सकता है।

249. 46:40 – 47:32 🗣 Jona

     अच्छा, विलैंड, यह एपिसोड धीरे-धीरे फिर से अपने अंत की ओर बढ़ रहा है। हमने एआई के बारे में बहुत, बहुत ज़्यादा और गहराई से बात की है, उम, क्योंकि जैसा हमने पहले भी कहा, इस क्षेत्र में विकास इतनी तेज़ी से आगे बढ़े हैं कि अंत में उन्होंने बाकी लगभग सभी विषयों को पूरी तरह ढक दिया। क्रंच टाइम में भी अब यह थोड़ा-थोड़ा ऐसा ही दिखने लगा है। ठीक है, यह क्रंच टाइम का चौरासीवाँ एपिसोड था। यह एक टेक्नोलॉजी पॉडकास्ट है, जिसमें हम आईटी के सभी विषयों पर बात करते हैं और कभी-कभी टीयू कैंपस की ख़बरों और अपने निजी जीवन तथा निजी टेक माहौल में हुई प्रगति पर भी बात करते हैं। विलैंड, अगर किसी ने मौजूदा एपिसोड सुनना थोड़ा देर से शुरू किया हो, तो वे इसे अब फिर से कहाँ सुन सकते हैं?

250. 47:32 – 48:00 🗣 Wieland

     क्रंच टाइम के एपिसोड आप वहाँ सुन सकते हैं जहाँ भी पॉडकास्ट मिलते हैं, यानी बेशक स्पॉटिफ़ाई, यूट्यूब और एप्पल म्यूज़िक पर; लेकिन एक आरएसएस फ़ीड भी है, जिसे आप podcast.radio-unique.de पर पा सकते हैं। और हमारी वेबसाइट radio-unique.de पर भी हर एपिसोड के साथ एक लेख और शो नोट्स मिलते हैं, ताकि आप चाहें तो हमारा पूरा कैटलॉग फिर से सुन सकें।

251. 48:01 – 48:05 🗣 Jona

     बहुत बढ़िया। और क्रंच टाइम का हमारा अगला एपिसोड कब आएगा?

252. 48:05 – 48:08 🗣 Wieland

     तो चूँकि यह हर महीने के चौथे रविवार को आता है—

253. 48:09 – 48:09 🗣 Jona

     सही।

254. 48:09 – 48:23 🗣 Wieland

     —शाम छह बजे, तो हमारी अगली फ़ोल्क में भी बेशक ऐसा ही होगा। और यह इस मामले में 25 अक्टूबर 2026 है। अगर आप वहाँ शाम छह बजे सुनेंगे, तो आप क्रंच टाइम का पचासीवाँ एपिसोड सुनेंगे।

255. 48:23 – 48:25 🗣 Jona

     मुझे उम्मीद है, हम फिर सुनेंगे। अपना ख़याल रखें।

256. 48:26 – 48:26 🗣 Wieland

     अलविदा।

257. 48:33 – 48:33 🗣 Wieland

     [आउट्रो जिंगल]

258. 48:33 – 48:39 🗣 Wieland

     यह क्रंच टाइम थी, रेडियो यूनीक की एक प्रोडक्शन।